生成式AI快速普及後，企業正將重心從聊天機器人轉向可自主執行工作的AI代理（AI Agent）。Google Cloud台灣技術總經理林書平表示，近兩年與企業高階主管交流時，最明顯的變化就是焦慮來源已經不同。過去企業還在了解AI能做什麼，如今則擔心競爭對手已經開始導入AI，自己是否落後，因此更積極思考哪些業務流程應優先導入AI代理，以提升生產力與營運效率。
不過，他認為，不同管理階層關心的議題並不相同。資訊安全長（CISO）最在意的是AI代理治理與資安風險，營運長（COO）關心部署後如何管理大量AI代理，而執行長（CEO）最終看的仍是商業價值，而不是企業用了多少AI。
林書平表示，企業導入AI代理前，應先找出最具價值的應用場景，再評估是否能降低成本、順利整合既有流程，而不是一開始就投入大量資源自行打造整套AI系統。
他指出，不少企業認為AI投資報酬率（ROI）不如預期，原因未必是AI效果不好，而是投資沒有放在真正能創造價值的環節。有些企業從基礎架構、模型、平台一路自行建置，不僅耗時，也容易造成重複投資，反而拉長AI落地時間。
因此，Google Cloud此次提出Agentic Enterprise Framework，希望提供涵蓋運算資源、資料平台、AI代理開發、安全治理到既有AI代理服務的完整架構，讓企業可依自身需求選擇需要的能力，而非從零開始建置所有系統。
IDC台灣總經理江芳韻則指出，台灣企業導入生成式AI速度已領先亞太。根據IDC調查，目前已有57%的台灣企業部署生成式AI，高於亞太平均36%；多數企業更預期AI投資可帶來3倍以上ROI，也讓企業更加重視如何將AI與實際營運成果連結。
不過，她表示，目前企業推動AI代理仍面臨三大瓶頸，包括資料尚未整合、缺乏可擴充的平台，以及難以與既有系統串接。其中，資料孤島尤其是最大挑戰，各部門各自建立AI應用，卻無法形成跨部門協作，限制AI代理真正發揮效益。
Google Cloud大中華區AI技術總監William Tsoi也指出，許多企業導入AI時，往往只讓員工使用聊天機器人，卻忽略企業真正需要的是「企業情境（Enterprise Context）」。AI代理若無法存取企業知識庫、CRM、標準作業流程（SOP）及各項營運資料，即使模型能力再強，也難以真正參與企業流程並創造商業價值。
林書平表示，目前Google觀察到最具成效的AI Agent應用，主要集中在兩大類型，一是協助整合分散於企業各處的資料，加速搜尋、摘要與知識取得；另一類則是高頻率且高度標準化的流程自動化。他舉例，包括玉山銀行運用Gemini建置房貸助理，加速房貸申辦流程；鴻海則導入AI分析大量資安日誌，並將分析結果回饋至資安流程，提高事件處理效率。