(AI Expo) 台積電用AI提高良率?孫元成:AI已無所不在
台灣AI博覽會(AI Expo)24日盛大展開,主辦單位DIGITIMES表示現場有超過2萬人進場參觀,其中聆聽論壇的人數爆增,主辦單位一再追加座位,顯見生成式AI掀起的產業革命,在台灣引起高度關注與討論熱度。
前台積電技術長、國立陽明交通大學產學創新研究學院院長孫元成24日在AI Expo下午的論壇上,以半導體與AI加乘創新的全面進化為題做演講。孫元成表示,台積電的生產,包括良率的提升,都在用AI。對台積電而言,AI已無所不在。
孫元成指出,半導體是一路創新,創新並沒有停止,例如3D堆疊、異質整合、InFO、CoWoS等技術都是持續進步。而半導體和AI是正循環的關係,是加乘式的創新飛輪。台灣的晶片製造技術很成功,未來要「以硬帶軟」,把AI做進晶片裡。
孫元成表示,3D乘3D的GPU超級晶片問市,有超過1兆個電晶體,但功耗太大。以NVIDIA的B200為例,已有1.8兆個電晶體,但功耗要1000W,一樣的計算能量,人腦只需用20W的熱量。孫元成強調,未來的趨勢,AI應該優先在終端處理,以免上雲有資安和成本較高的問題。
孫元成表示,從NVIDIA不斷推出更強大的GPU解決問題的角度來觀察,算力的需求一直都會增加,但功耗如何有效降低,有沒有辦法找到可降低千倍功耗的辦法?其實這就是台灣的機會,例如在元件上找低壓的方向做研發、採用多鐵材料、自旋元件都是可能的低耗電方法。
英特爾(Intel)日前公布以超過1000顆Loihi 2處理器組成,代號Hala Point的第二代神經型態運算系統,低功耗是其特點,但要和人腦比,還是不夠好。
孫元成認為,人腦既可做邏輯推理又可記憶,而且非常節能。電腦的記憶體內運算也應運而生,把運算和記憶整合,或拉近距離,可大幅節省能耗。這些概念已可從感測器先做,慢慢做進數據資料中心,採用「以鄉村包圍城市」的策略,達到全面降低功耗的目標。
Skymizer行銷長暨執行副總經理魏國章也在論壇上分享ASIC會有逐步興起的趨勢,生成式AI不一定都要用GPU。
Lenovo亞太區邊緣運算業務開發經理李英群則提到,客戶要自建AI伺服器,硬體也可以用訂閱(租用)的方式,降低客戶初期的成本。
財團法人人工智慧科技基金會執行長溫怡玲則提醒,AI人才培訓到底和企業的成長有何關連,其實都是可以持續探討和精進的問題。
責任編輯:陳奭璁
- 鴻海AI智慧城市願景 將用10個LLM造超級App
- 中光電談AI框架 影像辨識結合LLM有益處
- 終端導入「邊緣AI」門檻高 研華:使其規模化躍升涉及4要素
- (AI Expo) 台AI硬體席捲全球 林昭陽談如何在「軟體面」發揮影響力
- (AI EXPO)大規模個人化成可能 Pinkoi靠AI打造電商購物MBTI
- AI愈來愈聰明 張益肇:三大領域也需關注
- Vantage資料中心估7月開幕 伺服器規格依客戶需求
- 企業導入AI不難 緯謙:確立方向方能精準落地
- 你的資產安全嗎?國泰金談金融業如何與AI共存
- AI的100分會給怎樣的人?邁達特:找出正確期待值
- (AI Expo)人機介面有看頭 但LLM並非萬能
- AI Expo展場直擊:AI工廠邁向新紀元、虛擬氣象主播上線
- (AI Expo) 台積電用AI提高良率?孫元成:AI已無所不在
- 高通劉思泰: 邊緣AI潛力無限 規模勢必超越雲端
- AI增加雲端與邊緣整合 傳統儲存面臨挑戰
- 群聯搶攻GenAI產業鏈空缺 2025邁入指數型成長
- 生成式AI雲端和邊緣並進 邊緣運算另有4大課題
- 傅立成:LLM助機器人發展大腦 然「恐怖谷效應」得避免
- 為何微軟、OpenAI相繼拓點日本?前微軟亞洲研究院副院長這麼看
- 生成式AI促教育變革 范書愷:教育學科應設AI護欄