研華攜KONST Glows.ai 打造共享AI算力池 智慧應用 影音
DIGITIMES Logo
231
DIGITIMES Logo

研華攜KONST Glows.ai 打造共享AI算力池

  • 李浚誠台北

研華結合KONST、Glows.ai打造可共享AI Compute Pool。康斯特科技
研華結合KONST、Glows.ai打造可共享AI Compute Pool。康斯特科技

2026 COMPUTEX,AI基礎建設成為產業關注焦點。除了新一代GPU與AI伺服器硬體持續進化外,如何提升GPU使用效率、降低企業導入門檻,以及打造可擴展的AIInfrastructure,也成為企業客戶最關心的議題之一。

康斯特科技(KONST)攜手研華科技(Advantech)與AI算力雲平台Glows.ai,於COMPUTEX展示企業級AI Infrastructure整合成果,透過研華SKYRackAI架構結合Glows.ai GPU Virtualization技術,驗證GPU資源池化、多租戶管理、跨節點運算與AI Cluster部署能力,展現企業導入AI時更具效率與彈性的基礎建設模式。

隨著生成式AI、AI Agent、模型微調(Fine-tuning)與推論應用快速成長,企業對GPU的需求持續攀升。然而,許多企業面臨的挑戰並非單純增加GPU數量,而是如何有效管理與共享GPU資源,避免設備閒置與重複投資。

在此次展示中,研華SKY Server平台於長時間高負載運作下維持穩定效能,展現其在散熱設計、供電架構與PCIe擴充能力上的優勢。搭配Glows.ai GPU虛擬化技術後,可將單一GPU Server轉換為多租戶共享環境,讓不同團隊與專案同時使用同一套GPU資源,提升整體運算效率與資源利用率。

根據展示結果,在AI推論場景下,GPU虛擬化環境可維持接近Bare-Metal的效能表現,虛擬化額外負擔控制於約8至12%範圍內。這意味著企業能在兼顧效能與管理彈性的前提下,將GPU從單一設備轉變為可共享、可調度的AI Compute Pool。

Glows.ai所提供的GPU Virtualization技術支援資源切分、多租戶隔離與集中管理,讓企業能依據不同工作負載需求分配GPU資源。對於模型開發、推論服務與測試環境等多元AI應用而言,可有效提升GPU使用率,降低基礎建設成本。

作為Glows.ai的合作夥伴,康斯特長期投入AI資料中心(AIDC)、GPU基礎建設與企業AI平台整合服務。透過結合研華硬體平台與Glows.ai軟體能力,康斯特協助企業建構從資料中心、GPU管理到AI算力服務的一站式AI Infrastructure架構,加速AI應用落地。

康斯特自5~6年前即投入GPU AIDC的建置與營運,目前於台灣擁有4座、海外2座案場,以此為基礎自研Glows.ai算力雲平台,透過虛擬化切分技術,將康斯特AIDC內的高階GPU資源切片成可彈性配置、彼此隔離的算力單位,提供給全球AI開發者租用。包含客戶需要虛擬化的實例要穩定持續開機好幾個月、並且能做到資安防護,彼此不互相干擾的企業需求客戶。

AI Infrastructure的發展已逐漸從單純追求硬體規模,轉向更重視資源利用率、管理效率與可擴展性。GPU虛擬化、多租戶管理與AI Compute Pool等技術,正成為企業建置下一代AI平台的重要方向。

未來,研華、康斯特與Glows.ai也將持續針對企業級AI Cluster、分散式訓練、AI Factory與私有化部署等場景進行驗證與優化,協助企業以更具成本效益的方式建構AI基礎建設,迎接AI應用規模化發展的新階段。欲瞭解更多,請至研華SKY Server平台Glows.ai