維繫供應鏈新希望 超微MI300傳明年出貨上看40萬顆 智慧應用 影音
電子零件公會
ST Microsite

維繫供應鏈新希望 超微MI300傳明年出貨上看40萬顆

  • 陳玉娟台北

受惠超微加入AI晶片戰局,AI相關供應鏈2024年首季起營運應可逐季好轉。AMD
受惠超微加入AI晶片戰局,AI相關供應鏈2024年首季起營運應可逐季好轉。AMD

被認為是目前唯一可挑戰NVIDIA的AI GPU霸主地位的超微(AMD)新一代Instinct MI300系列加速器,將於台北時間7日凌晨正式登場,執行長蘇姿丰(Lisa Su)將與經營團隊與AI產業鏈合作夥伴及客戶,將同台大秀AI軟硬體平台如何重新打造AI、自行調適與高效運算(HPC)願景。尤其是最大客戶微軟(Microsoft),預期也親自站台助陣。

儘管美鎖中禁令加劇,AI GPU需求熱度不減反升,其中,超微MI300系列2024年出貨約達30萬~40萬顆,最大客戶為微軟、Google,若非受限台積電CoWoS產能短缺及NVIDIA早已預訂逾4成產能,超微出貨可望再上修。

超微表示,MI300X加速器支援高達192GB的HBM3記憶體,提供大型語言模型推導與生成式AI工作負載所需的運算力與記憶體效率。憑藉MI300X的大容量記憶體,客戶可處理Falcon-40B等大型語言模型,僅需使用1個MI300X GPU加速器就能處理400億個參數的模型。

而MI300A為針對HPC與AI工作負載所開發的全球首款APU加速器。為輔助硬體執行,超微透過為資料中心加速器打造的ROCm軟體產業體系,將就緒完備的開放AI軟體平台推向市場。

值得一提的是,超微AI 平台日前已有微軟大單落袋,微軟正式宣布多款搭載MI300X、Epyc處理器及搭載AI引擎的Ryzen處理器等新品,其中,全新Azure ND MI300x v5虛擬機器(VM)系列搭載MI300X,為AI工作負載進行最佳化。

供應鏈指出,MI300系列採用台積電先進封裝技術,主要以SoIC搭配CoWoS,超微也是目前台積電最重要的SoIC大客戶,蘋果(Apple)、NVIDIA預計2025年後才會導入 。

據估算,目前台積電CoWoS加速龍潭、台中擴產規模,竹南AP6廠也加入支援,部分低毛利oS(on Substrate)也釋單給其他封測廠。在AI需求飆升下,台積電CoWoS月產能不斷上修,預估至2024年底將超過3萬片。

另在報價高昂的SoIC方面,目前月產能不到2,000片,2024年隨著超微新品推出,應可順利突破2,000片,2027年有機會拉升至逾7,000片。

台積電總裁魏哲家先前則預期,2022年先進封裝產能較2018年多3倍,已在2022年開始SoIC晶片堆疊製造,估計2026年產能可擴增至20倍以上。

超微信心指出,MI300系列已接到多家大客戶訂單,AI GPU第4季營收已由3億美元上修至4億美元,2024年AI GPU營收將超過20億美元,

受惠超微加入AI晶片戰局,AI相關供應鏈2024年首季起營運應可逐季好轉,如台積電一條龍服務拿下先進製程與先進封裝大單,而緯創等也承接GPU模組代工,另還有通吃超微、NVIDIA大單的穎崴,技嘉、華擎將在首季推出MI300系列伺服器,第2季開始逐季放量。

據了解,NVIDIA H100至今仍供不應求,為壓制超微,預計2024年下半推出採用台積電3奈米的B100。英特爾(Intel)繼Gaudi 2後,近期也針對中國市場再推降規版,而Gaudi 3則會在2024年推出。


責任編輯:朱原弘