微軟擴展Azure Maia AI系統至數GW規模部署

微軟AI基礎建設發展進入全新階段，宣布將擴大Azure Maia系列部署，於2027年擴展至數GW（Multi-Gigawatt；數十億瓦）規模，成為微軟產品與服務的主要AI推論（inference）系統。

橫跨多個世代的Azure Maia發展計畫已成為微軟AI基礎建設策略的核心要素。Maia 200現已正式支援包括Microsoft Copilot在內的實際生產工作負載，並協助Microsoft AI（MAI）團隊開發新一代模型；GitHub Copilot與Microsoft Foundry則預計於2026年底加入。

Maia 200可執行的工作負載涵蓋OpenAI模型、微軟自研MAI模型，以及主流開源模型系列。透過微軟大規模AI服務累積的洞察，得以從硬體系統到軟體應用進行協同設計（co-design），針對企業應用及不同產業的實際使用需求進行最佳化。

Maia 300是一套專為新一代AI工作負載打造的完整AI系統，包含長上下文推理（long-context reasoning）、對延遲高度敏感的對話式體驗，以及需要長時間持續執行的多步驟的agentic任務。透過提升系統效率，微軟預期相較於頂尖GPU運算系統，Maia 300每兆瓦（Megawatt；MW）token處理量將提升40%，並在96顆加速器的完整配置下，其機櫃級（rack-scale）token處理量最高可達Maia 200的7倍。

Maia 200驅動微軟大規模運行的工作負載

Azure Maia系統以微軟實際運行的大規模工作負載，以及對未來模型發展的預期需求為設計基礎。由於晶片開發週期長達數年，微軟的軟硬體團隊從研發初期便展開合作，預先規劃未來架構、規模與運算能力，並將這些需求落實為更大的記憶體容量、更高的頻寬，以及與更多加速器共同運作的統一系統。

這項軟硬體協同工程（co-engineering）已展現可量化的效率提升。Maia 200已部署於美國、歐洲及澳洲，支援Microsoft Teams、Copilot與Cowork等內建AI功能，相較於業界頂尖的GPU基礎架構，每瓦token處理量提升高達1.7倍。

微軟於Maia 200運行AI模型與服務所累積的經驗，直接為Maia 300的設計方向提供重要依據。兩代系統皆以支援微軟多元AI服務而設計，包括可提升GitHub程式開發體驗效率的多步驟agentic工作、協助支援Microsoft Foundry因應多元模型架構與環境部署需求的雲端級規模模型服務、MAI團隊的推論與資料生成、以及協助Dragon Copilot規模化工作流程規模並減輕臨床醫護人員的行政負擔所需但對於延遲較敏感的互動。

Maia 300讓每一兆瓦創造更多AI價值

AI正逐漸成為各類應用、工作流程與企業營運的基礎。隨著企業從單純聊天體驗，邁向可推論、執行與協作的agent系統，AI基礎建設必須提供安全且高效的大規模AI智慧，並持續因應模型與工作負載的快速演進靈活調整。

作為Azure Maia計畫的第三代產品，Maia 300採用推論優先（inference-first）的架構設計，針對長上下文、高記憶體需求與高解碼需求（decode-heavy）等AI工作負載優化，同時在雲端級規模下平衡運算、記憶體頻寬、網路與能源效率。

Maia 300系統核心能力包含：1. 減少資料移動，提升有效運算：在大型AI推論系統中，資料移動效率正逐漸成為關鍵瓶頸，而非單純運算能力。Maia 300的軟體定義資料流程架構與AI輔助的核心（kernel）優化相互協作，可最大化資料區域性（locality）、減少資料移動，並提升運算、記憶體及網路資源的使用效率。透過將資料流視為核心設計原則，Maia 300在每瓦效能表現相較傳統GPU架構具備顯著優勢。

2. 更高的每瓦記憶體頻寬：隨著AI工作負載愈來愈受情境與記憶體影響，Maia 300提供引領業界的HBM頻寬每瓦效能，8組HBM4記憶體堆疊在950瓦熱設計功耗（Thermal Design Power；TDP）下，可提供最高18.0 TB/s的記憶體頻寬，高效執行大型模型與長上下文工作負載。此外，專用核心支援則將晶粒內的SRAM作為軟體管理的暫存空間（scratchpad），進一步降低HBM的存取壓力。

3. 透過小晶片（chiplet）架構提升效率：Maia 300採用全新多顆小晶片架構設計，將運算、記憶體控制器、I/O功能分別配置，藉此提升效率、可擴充性（scalability）與成本結構。小晶片採用TSMC N2P製程節點，以最佳化每瓦效能。

4. 支援更長的上下文與更強大的智慧：Maia 300以針對強化版MXFP4等先進低精度格式進行設計，可降低運算與KV快取（KV-Cache）儲存所需的記憶體與頻寬，進而在相同的功耗範圍內支援更大的上下文視窗、更高的處理量與更高的模型效率。

5. 支援資料中心規模的網路垂直擴展：Maia 300將網路視為軟體定義資料流架構的無縫延伸。不同於透過獨立的通訊層傳輸資料，資料流運作將運算、記憶體與網路資源視為單一整合系統。高頻寬互連技術協助Maia加速器優化張量平行化（tensor parallelism），而客製化AI傳輸則在加速器與機櫃之間，提供高效且可靠的垂直擴展通訊。AI優化的傳輸技術採用基於乙太網路（Ethernet）的網路基礎架構，打造統一的拓撲（topology），從單一機櫃高效擴展至資料中心規模的部署。

6. 提升每個機櫃的AI處理量：Maia 300機櫃系統在167千瓦功耗範圍內整合96顆加速器，提供27.6 TB的HBM容量，並在高速垂直擴展網域中實現1.7 PB/s的HBM總頻寬。此高密度配置協助微軟的每個機櫃支援更多同步進行的AI互動與更大型的工作負載，以提升資料中心容量與AI服務規模化擴展的經濟效益。

Maia 300將於2027年正式開始生產部署。欲了解更多Maia 300技術架構細節資訊，歡迎參閱微軟技術白皮書。

Azure Maia是前瞻轉型的核心

未來的AI發展不會由單一模型、單一晶片或單一技術創新所定義。模型與晶片的選擇是微軟實現前瞻轉型願景不可或缺的一部分。微軟致力於打造負責任、可負擔且具備可擴充性的AI平台，協助每個人運用AI擴展自身智慧，推動真正具有意義的突破性成果。

微軟的獨特之處，在於能夠在開放、異質且支援多元模型的平台上，從晶片、系統到agent進行優化，協助客戶滿足當前需求並因應未來發展持續推動AI轉型。此平台正是前瞻轉型的核心，而Azure Maia則是微軟擴展AI存取、加速創新的基礎要素，讓客戶能從AI中創造更多價值。

微軟將於下個月在美國舊金山及線上舉辦Microsoft Ignite 2026，屆時將進一步分享微軟的AI策略、技術採用趨勢，以及前瞻轉型的成功案例。