Google TPU打平成本僅需1年 聯發科、博通ASIC業績有上修空間 智慧應用 影音
DIGITIMES Logo
231
DIGITIMES Logo
Event

Google TPU打平成本僅需1年 聯發科、博通ASIC業績有上修空間

  • avatar
    劉憲杰台北

Play Icon AI語音摘要 00:46 List Icon聽更多

TPU回收成本週期僅1年,Google加碼底氣足,ASIC業者營收仍有上修空間。符世旻攝
TPU回收成本週期僅1年,Google加碼底氣足,ASIC業者營收仍有上修空間。符世旻攝

近期Google Cloud執行長Thomas Kurian公開表示,Google在AI伺服器的整體投資回收期不到兩年,自研晶片的回收期,更是這個數字的一半。換算下來,這意味著Google TPU,約只需要1年的時間,就能打平成本。業界也估計,這讓聯發科、博通(Broadcom)等特用晶片(ASIC)設計服務業者,後續營運更可以受惠於Google加碼進攻TPU的大方向。

IC設計業界人士表示,這就是Google之所以在自研晶片開發與量產計畫上,可以投入的強勁的力道與龐大資源的關鍵原因。「快速的成本回收時程」,更是未來Google因應市場需求、能夠持續加碼的重要底氣。

相關供應鏈業界人士指出,事實上包括聯發科在前幾次法說會中,陸續上調ASIC業務的規模,以及博通高速成長的營收表現,都可以看出Google的TPU相關訂單,動能還在持續加溫。

從供應鏈的角度來看,確實也是有產品加單,甚至為了AI的技術變化,而開出更多不同規格的情況,TPU現在已經是在NVIDIA之外,需求規模最為龐大的雲端AI晶片產品了。

Google的TPU能夠快速回收成本有幾個原因。

一方面自然是因為成本端壓得比較低,尤其和採購NVIDIA整套系統相比,自行打造TPU的機櫃系統,更能夠控制成本。

另一方面,Google在AI相關服務所能賺取的業務營收規模,也因為Google已經相當龐大的網路服務通路,而比其他雲端服務(CSP)同業,或是AI模型大廠來得更高,而這還是Google自己使用TPU的部分,現在Google在對外銷售TPU或是TPU運算服務上面,也逐步取得更多的成果。

Google TPU的市場競爭力,很大一部份就來自於這個成本效益。

根據Google自己的估算,自家方案的AI訓練價格效能優於競品2.7倍,推論則有80%的優勢,CPU有30%的優勢。一些第三方機構也算出,相比於NVIDIA的B200和B300,Google的Ironwood TPU每美元效能高出50%,每百萬Tokens的成本也比B200和B300來得低。

晶片供應鏈業者直言,隨著市場上AI晶片選擇越來越多,成本效益對於許多客戶來說已經是非常重要的採購考量。

Thomas Kurian強調,現在TPU的建置需求來源,已經不只是AI實驗室了,包括量化交易與研究的資本市場業者、避險基金與傳統銀行、生技藥廠、公部門的研究專案,以及各類科學研究的傳統高效能運算,都開始在往TPU的平台轉移。

這些全新的市場需求,不僅讓TPU的用量更加龐大,各種不同的AI運算應用竄出,也讓Google必須開出更多不同的TPU專案,並讓更多ASIC業者參與其中。

從聯發科和博通近期對於TPU的相關需求說法來看,固然聯發科確實持續擴大供應比重,相關營收的規模也有上修,但博通也強調,在TPU訓練端晶片的訂單需求非常強勁,且一些像是Anthropic採購TPU的專案訂單,也都還是博通掌握在手上。

熟悉IC設計業界人士表示,對於兩家廠商來說,雖然未來會繼續競爭市佔率,甚至還有更多同業會加入戰局,但Google的TPU整塊餅擴大的速度,還是「大到所有人都能繼續成長」的程度。

責任編輯:何致中