(AI Expo) 台積電用AI提高良率?孫元成:AI已無所不在 智慧應用 影音
工研院-11月論壇
IC975

(AI Expo) 台積電用AI提高良率?孫元成:AI已無所不在

  • 莊衍松台北

國立陽明交通大學產學創新研究學院院長孫元成在AI Expo上說明半導體和AI的加乘關係。符世旻攝
國立陽明交通大學產學創新研究學院院長孫元成在AI Expo上說明半導體和AI的加乘關係。符世旻攝

台灣AI博覽會(AI Expo)24日盛大展開,主辦單位DIGITIMES表示現場有超過2萬人進場參觀,其中聆聽論壇的人數爆增,主辦單位一再追加座位,顯見生成式AI掀起的產業革命,在台灣引起高度關注與討論熱度。

前台積電技術長、國立陽明交通大學產學創新研究學院院長孫元成24日在AI Expo下午的論壇上,以半導體與AI加乘創新的全面進化為題做演講。孫元成表示,台積電的生產,包括良率的提升,都在用AI。對台積電而言,AI已無所不在。
 

Skymizer行銷長暨執行副總經理魏國章。符世旻攝

Skymizer行銷長暨執行副總經理魏國章。符世旻攝

Lenovo亞太區邊緣運算業務開發經理李英群。符世旻攝

Lenovo亞太區邊緣運算業務開發經理李英群。符世旻攝

財團法人人工智慧科技基金會執行長溫怡玲。符世旻攝

財團法人人工智慧科技基金會執行長溫怡玲。符世旻攝

孫元成指出,半導體是一路創新,創新並沒有停止,例如3D堆疊、異質整合、InFO、CoWoS等技術都是持續進步。而半導體和AI是正循環的關係,是加乘式的創新飛輪。台灣的晶片製造技術很成功,未來要「以硬帶軟」,把AI做進晶片裡。

孫元成表示,3D乘3D的GPU超級晶片問市,有超過1兆個電晶體,但功耗太大。以NVIDIA的B200為例,已有1.8兆個電晶體,但功耗要1000W,一樣的計算能量,人腦只需用20W的熱量。孫元成強調,未來的趨勢,AI應該優先在終端處理,以免上雲有資安和成本較高的問題。

孫元成表示,從NVIDIA不斷推出更強大的GPU解決問題的角度來觀察,算力的需求一直都會增加,但功耗如何有效降低,有沒有辦法找到可降低千倍功耗的辦法?其實這就是台灣的機會,例如在元件上找低壓的方向做研發、採用多鐵材料、自旋元件都是可能的低耗電方法。

英特爾(Intel)日前公布以超過1000顆Loihi 2處理器組成,代號Hala Point的第二代神經型態運算系統,低功耗是其特點,但要和人腦比,還是不夠好。

孫元成認為,人腦既可做邏輯推理又可記憶,而且非常節能。電腦的記憶體內運算也應運而生,把運算和記憶整合,或拉近距離,可大幅節省能耗。這些概念已可從感測器先做,慢慢做進數據資料中心,採用「以鄉村包圍城市」的策略,達到全面降低功耗的目標。

Skymizer行銷長暨執行副總經理魏國章也在論壇上分享ASIC會有逐步興起的趨勢,生成式AI不一定都要用GPU。

Lenovo亞太區邊緣運算業務開發經理李英群則提到,客戶要自建AI伺服器,硬體也可以用訂閱(租用)的方式,降低客戶初期的成本。

財團法人人工智慧科技基金會執行長溫怡玲則提醒,AI人才培訓到底和企業的成長有何關連,其實都是可以持續探討和精進的問題。

 
責任編輯:陳奭璁