企業導入AI不只選模型 GMI Cloud從算力到應用補齊基礎建設 智慧應用 影音
236
台科大-MITT論壇
iForum

企業導入AI不只選模型 GMI Cloud從算力到應用補齊基礎建設

  • 尤嘉禾台北

GMI Cloud前端技術總監Fred Jhang於AI EXPO 2026分享,企業導入AI的關鍵已不只在模型選擇,而在於從模型入口、工作流到算力與治理的整體基礎建設布局。DIGITIMES攝
GMI Cloud前端技術總監Fred Jhang於AI EXPO 2026分享,企業導入AI的關鍵已不只在模型選擇,而在於從模型入口、工作流到算力與治理的整體基礎建設布局。DIGITIMES攝

「在不同視角下,企業對AI的應用需求其實不太一樣。」GMI Cloud前端技術總監Fred Jhang在AI EXPO 2026演講中指出,當生成式AI逐漸深入日常商業的流程,企業真正需要升級的已不僅是單一模型,而是從模型入口、工作流、儲存架構到底層算力的整體基礎建設。

過去市場焦點多放在「哪個模型更強」;但隨著應用延伸至多模態生成,甚至走向具自主執行能力的AI Agent,企業真正面對的問題,已不再只是模型選型,而是API如何串接、任務怎麼編排、算力怎麼調度,以及資料與安全治理能否跟上。也就是說,當AI從聊天工具走向可執行任務的系統,企業原本藏在後端的IT架構問題,也會一一浮上檯面。

GMI Cloud於AI EXPO 2026展示從GMI MaaS、GMI Studio到Cluster Engine與GPU as a Service的整體AI基礎建設,呈現企業AI落地所需的技術堆疊。DIGITIMES攝

GMI Cloud於AI EXPO 2026展示從GMI MaaS、GMI Studio到Cluster Engine與GPU as a Service的整體AI基礎建設,呈現企業AI落地所需的技術堆疊。DIGITIMES攝

從Agent到視覺化工作流  MaaS單一接口解決整合痛點

Fred以近期受到關注的OpenClaw Agent為例,解釋了AI正逐步朝具備個性化與任務排程能力的數位助手發展。當AI的能力從模型延伸到API與外部工具時,後端所需支撐的基礎設施也會隨之增加。對新創或中小企業而言,最在意的或許是整合難度與導入成本;但對大型企業來說,GPU叢集管理、合規、監控與資料掌控權,往往才是能否落地的關鍵。

換句話說,有些企業只想快速取得模型能力,有些企業則想把AI放進既有流程,也有些企業從一開始就需要更高的系統控制權。這讓AI基礎建設不再只是單一產品,而更像是一條能根據企業成熟度與應用場景逐步往下延伸的技術路徑。

針對導入初期的磨合,GMI Cloud推出GMI MaaS(Model as a Service)。這項服務替企業建立統一入口,透過單一API即可存取主流閉源與開源模型,並支援語音、影片等多模態任務。企業不必逐一對接不同供應商,也能透過統一帳單與集中管理,降低整合難度與導入成本。

然而,對企業來說,真正的挑戰往往不在於「有沒有模型可用」,而是模型接進來後能否穩定融入既有營運流程。當任務從文字生成擴展到多模態處理,或是進階到複雜的連續性任務時,GMI Studio提供了基於ComfyUI的視覺化節點編輯平台,專為處理圖像、影片與3D等任務設計。它讓AI從零散的工具,轉變為可重複執行的標準化作業流程,協助團隊將注意力放回商業邏輯。

深入企業底層:Cluster Engine算力治理與VAST儲存架構

解決上層的應用與工作流,針對需要更深層控制權的大型企業,GMI Cloud則提出Cluster Engine與GPU as a Service。企業可直接租用高效能GPU基座,並透過Web與API雙介面部署裸機(Bare Metal)、容器或K8s叢集。同時,透過整合DCGM與Prometheus的監控機制,企業也能即時追蹤GPU效能與資源分配,回應大型企業對資源可控性、監控能力與合規管理的需求。

GMI Cloud除強化上層算力調度與資源治理外,亦在底層Data Platform攜手Macnica茂綸導入VAST Data資料平台解決方案,進一步補強AI基礎設施中最關鍵的資料層能力。相較於傳統儲存架構,VAST Data結合其產品設計與平台特性,展現出以下幾項優勢:

1、可對應NVIDIA推薦架構,強化AI平台整合能力:VAST Data可與主流AI運算架構順暢整合,協助企業在GPU叢集、容器化環境與高效能資料平台之間建立更一致的基礎架構,降低部署與擴展AI環境時的整合複雜度。2、採用平行共享架構,提升高吞吐與低延遲資料供應能力:VAST Data以其分離式共享架構設計,讓運算與儲存資源能更有效協同運作,提供更高的平行存取能力,因應AI訓練、推論與大規模資料處理所需的大量吞吐與高速I/O需求。

3、提供原生多協定與完整資料服務能力,兼顧效能與企業級穩定性:不同於僅著重單一效能指標的儲存方案,VAST Data同時具備原生檔案、物件等多種資料存取能力,並提供快照、資料保護與多元資料服務,滿足企業在穩定運作、資料管理與長期維運上的需求。4、支援AI多模態場景,滿足大量資料交換與集中管理需求:面對生成式AI、多模態模型、推論服務與資料分析等工作負載,VAST Data可支撐龐大資料集的集中存放、快速交換與高效率讀取,讓資料平台不再只是承載角色,而是AI基礎設施中的核心組件。

最後,Fred也點出企業導入Agent的安全隱憂。他提到,當Agent能夠存取企業內部系統時,風險也會隨之而來,包括資料權限控管、供應鏈攻擊、提示詞注入以及記憶中毒等問題。「AI 時代,基礎建設決定一切。」從模型服務、工作流平台到GPU算力、儲存架構與治理能力,Fred的核心訊息很清楚,企業看待AI的方式不能只停留在模型採購,而必須回到整體IT架構的規畫與部署。

因為當AI從聊天走向多模態生成,再進一步走向Agent,企業面對的就不只是模型能力,而是後端系統能否承接、資料能否流通、權限與治理能否同步到位。算力、資料與治理若沒先補齊,AI很難真正進入正式環境,更別說後續維運與擴充。茂綸也同為GMI Cloud 的合作夥伴, 若在算力以及搭配NVIDIA platform 硬體需求可以與茂綸&GMI 一同詢洽。

關鍵字