AI Agent從問答走向實作 加速企業智慧轉型 智慧應用 影音
DIGITIMES Logo
236
DIGITIMES Logo
DIGITIMESForumB

AI Agent從問答走向實作 加速企業智慧轉型

  • 林采榆/台北

企業AI應用走向規模化部署,運算效率與成本管理日益重要。Dell Technologies以AI Factory整合模型開發、推論運算與資源調度,協助企業提升Token處理效率,加速應用落地。資策會
企業AI應用走向規模化部署,運算效率與成本管理日益重要。Dell Technologies以AI Factory整合模型開發、推論運算與資源調度,協助企業提升Token處理效率,加速應用落地。資策會

生成式AI正從知識查詢與內容生成,逐步延伸至能夠調用工具、串接企業系統及執行工作流程的AI Agent,帶動企業對運算資源配置、資料整合、權限管理及營運效益評估等需求。為加速AI在台灣產業落地,經濟部產業發展署推動的IPO Forum平台於2025年攜手Dell Technologies、Microsoft等國際大廠及當地技術夥伴成立「AI信賴加速器」,整合國際技術與在地供應鏈資源,促進跨產業AI應用及成果擴散。

為配合經濟部產業競爭力輔導團推動中小企業AI轉型,進一步擴大實務應用經驗的推廣效益,由產發署指導、IPO Forum及DIGITIMES主辦的「驅動全球AI生態系:智造共鏈・應用共創」專題議程於10月21日舉行,邀集Dell Technologies、台灣微軟、邁達特、日月光半導體、智慧方案及睿思智慧,分享AI基礎建設、企業治理及製造與服務場域的實務經驗,協助更多業者了解AI解決方案與導入效益,提升產業應用意願。

AI Agent逐漸參與跨部門工作,帶動企業協作與治理需求。台灣微軟結合Copilot與Agent 365,支援跨系統流程執行、身分權限管理及安全監控,提升人機協作效率。資策會

AI Agent逐漸參與跨部門工作,帶動企業協作與治理需求。台灣微軟結合Copilot與Agent 365,支援跨系統流程執行、身分權限管理及安全監控,提升人機協作效率。資策會

企業推動AI落地,不應只關注技術與模型能力,更需要從應用場景、資料治理、系統整合及效益評估等面向,建立循序漸進的導入方法論。同時,AI Security應在規劃初期就納入考量,特別關注敏感資料保護、存取權限、AI Agent行為控管及潛在安全風險,透過適當的安全架構與治理機制,協助企業在創新效率與資訊安全之間取得平衡。資策會

企業推動AI落地,不應只關注技術與模型能力,更需要從應用場景、資料治理、系統整合及效益評估等面向,建立循序漸進的導入方法論。同時,AI Security應在規劃初期就納入考量,特別關注敏感資料保護、存取權限、AI Agent行為控管及潛在安全風險,透過適當的安全架構與治理機制,協助企業在創新效率與資訊安全之間取得平衡。資策會

半導體封測製程日益複雜,設備異常偵測與快速處置攸關良率。日月光結合Edge AI與AI Agent,分析設備聲學、振動及影像資料,並整合維修知識,提升智慧產線管理能力。資策會

半導體封測製程日益複雜,設備異常偵測與快速處置攸關良率。日月光結合Edge AI與AI Agent,分析設備聲學、振動及影像資料,並整合維修知識,提升智慧產線管理能力。資策會

製造業累積大量專業經驗,知識傳承與跨部門協作成為AI導入重點。智慧方案以EgentWrX整合AI數位分身、知識庫與任務卡,將員工作業經驗轉化為可重複執行的工作流程。資策會

製造業累積大量專業經驗,知識傳承與跨部門協作成為AI導入重點。智慧方案以EgentWrX整合AI數位分身、知識庫與任務卡,將員工作業經驗轉化為可重複執行的工作流程。資策會

企業推動AI自動化,需要整合既有系統並驗證營運效益。睿思智慧運用Agentic Workflow串接ERP、CRM及POS,支援資料分析、需求預測與流程處理,協助企業提升作業效率。資策會

企業推動AI自動化,需要整合既有系統並驗證營運效益。睿思智慧運用Agentic Workflow串接ERP、CRM及POS,支援資料分析、需求預測與流程處理,協助企業提升作業效率。資策會

運算資源與工作流程整合  建立企業AI部署基礎

企業導入AI Agent後,推論需求可能隨使用人數、任務複雜度及系統串接範圍快速增加,運算架構必須兼顧效能與成本。Dell Technologies資深AI業務拓展協理葉恩任表示,企業應先確認AI要解決的業務問題,再依資料條件、模型準確度及成本,評估採用檢索增強生成(RAG)、模型微調或其他技術方式,避免應用尚未驗證就投入大量GPU資源。

針對AI Agent帶動的Token需求成長,Dell AI Factory可透過推論工作負載分離、KV Cache管理及運算資源調度,提高系統回應效率與資源使用率。葉恩任建議,企業初期可運用GB10或AI工作站進行模型開發及測試,待應用情境與技術可行性獲得確認後,再擴展至資料中心,讓開發環境與正式營運所需資源能夠妥善配置。

除了運算資源,AI能否進一步參與企業營運,還取決於既有系統與工作流程的整合程度。台灣微軟資深策略業務發展總監章恩齊提到,個人化AI Agent未來可依員工原有的身分與權限,參與訂單處理、採購及製造等作業。透過Copilot及相關開發工具,企業能將個人工作輔助延伸至跨系統協作。

章恩齊舉例,已有製造業客戶利用AI Agent處理跨國訂單異動與單據更新,每年節省超過800個人工作天。這類應用顯示,當AI具備跨系統執行任務的能力,企業便有機會減少重複性的資料處理工作,將人力投入需要專業判斷與協調的環節。

此外,當組織內部的Agent數量持續增加,管理者還需要掌握每個Agent的身分、資料存取權限及任務執行紀錄。微軟透過Agent 365 提供集中管理、可視性與安全治理能力,協助企業將Agent納入既有的資訊治理架構。

從資料存取到行為控管AI治理須涵蓋完整執行流程

邁達特產品六處處長黃禹傑指出,企業推動AI落地,不應只關注模型能力,更重要的是從實際業務需求出發,盤點應用場景、資料來源及系統整合需求,透過小規模驗證逐步擴大應用。同時,AI Security應在導入初期就納入整體架構規劃,避免企業在追求AI應用效益的過程中,忽略潛在的資訊安全風險。

黃禹傑進一步說明,AI的安全風險會隨應用程度而改變。從初期的生成式AI應用,到能夠自主調用工具、存取企業資料及執行任務的AI Agent,企業需要關注的已不只是敏感資料外洩,更包含身分識別、存取權限、工具調用及操作行為等安全議題。

企業可依不同應用場景,結合AI Gateway、Guardrails、MCP Gateway等技術,建立分層防護與治理機制,並針對高風險操作設置必要的授權與人工審核程序。

黃禹傑強調,企業導入AI Security不應只是增加安全工具,而是必須將安全治理融入AI應用的整個生命週期,從事前的風險評估與權限設計、執行過程中的安全控管,到事後的操作紀錄、稽核追溯及持續驗證,建立完整的管理機制。隨著AI逐步參與企業核心業務流程,如何兼顧應用效益、資訊安全與治理能力,將是企業能否成功擴大AI應用的關鍵。

製造現場結合感知與知識  讓AI參與異常處置及產線決策

AI基礎架構與治理機制逐步建立後,製造現場成為檢驗技術實際價值的重要場域。日月光半導體助理副總經理陳俊銘分享,先進封裝製程涉及大量精密設備,若能及早察覺異常並縮短處置時間,便有助於降低製程損失。

日月光將Edge AI部署於設備端,利用聲學、振動及影像資料偵測異常,再由AI Agent整合維修紀錄、標準作業程序及工程師經驗,分析可能原因並提出處置建議。例如晶圓切割設備可藉由異常聲響辨識,及早發現潛在問題,讓現場人員更快採取適當措施。

陳俊銘表示,日月光規劃於2026年在高雄廠區推動大量AI Agent,應用範圍涵蓋製造、設備、製程、物流及廠務。隨著部署規模擴大,模型生命週期管理與資安防護也須同步建立,才能支援不同設備與工作場景的長期運作。

相較於設備端的即時感知,製造業另一項需求是將分散於人員與部門之間的專業知識,轉化為可持續使用的組織資產。智慧方案營運長陳旻筠介紹,EgentWrX企業級AI Agent管理平台可讓員工建立具有獨立知識庫、記憶及使用權限的AI數位分身,並透過自然語言將日常作業整理成任務卡,進一步串接為跨部門工作流程。

以報價作業為例,AI可整合業務、採購、財務及生產管理資訊,協助員工減少反覆查詢與跨部門協調的時間。陳旻筠提到,EgentWrX支援雲端及地端部署,也納入預算管理、操作稽核與資料防護功能,讓企業在掌握AI使用情況的同時,持續累積員工建立的任務流程與專業知識。

日月光與智慧方案的實務分享,分別呈現AI在設備異常處置與知識流程化的應用方向。兩者都涉及將現場資料、既有經驗及工作程序整合,讓AI提供更貼近實際作業需求的協助。

以營運指標驗證成效  推動AI應用跨場域擴展

當AI Agent開始參與實際業務,企業還需要透過具體指標判斷導入效益。睿思智慧執行長陳益祥表示,企業可利用自然語言建立Agentic Workflow,串接ERP、CRM及POS等既有系統,讓AI執行資料分析、需求預測及流程處理,並由人員審核重要決策。

睿思智慧已將相關模式應用於連鎖餐飲備料預測、精密製造詢價與報價、財務對帳及政府機關文件審查等場域。這些應用的共同需求,是整合分散資訊、減少人工查詢與重複輸入,並讓工作流程能夠在不同系統之間持續運作。

陳益祥認為,企業應依不同場域的業務特性,設定作業工時、品質、物料損耗及營運成本等評估指標,持續檢視AI是否帶來可衡量的改善。同時,透過人工核可與操作紀錄,保留必要的決策監督與追溯能力。

綜觀本次六位講者的分享,企業AI應用已逐步涵蓋運算資源、跨系統流程、安全治理及營運管理等面向,並展現提升製程良率與營運效率的實際效益。未來將持續結合經濟部產業競爭力輔導團推動中小企業AI轉型的政策資源,以及IPO Forum平台的國際大廠合作網路,以以大帶小模式串聯當地技術夥伴與產業需求,深化AI技術合作及場域應用,並透過成果推廣與經驗分享,擴大AI解決方案在傳統產業及中小企業的應用,加速百工百業智慧化轉型。