智慧應用 影音
從半導體設備市場規模看產業變化
眾所周知,在美中貿易戰及新冠疫情後,國家安全及供應鏈安全成為各國亟待強化的關鍵課題,半導體製造能力成為施政重點。在此背景下,2021年及2022年全球半導體設備市場規模前所未見的連2年突破1,000億美元規模,分別達到1,026億美元及1,076億美元的規模。我歸納整理國際半導體產業協會(SEMI)以及日本半導體裝置製造裝置協會(SEAJ)發布的原始統計數據,探討半導體產業的結構變化。可以看到台、韓、中三地是全球最大的半導體設備市場,2020~2022年三地合計都佔全球市場7成以上。中國雖在2000年發布十八號文及中芯、宏力建廠,但其後投資建廠的規模在全球仍不算是「大咖」,直到2014年發布「國家集成電路產業發展推進綱要」並啟動大基金大舉投資半導體供應鏈各環節,產業發展動能才真正被點燃起來。中國到了2018年,首度突破100億美元的市場規模,成為與台灣及南韓鼎足而三的大市場。2021與2022年這三地規模更都突破200億美元。   另北美、歐洲、日本及其他(以色列及星馬等)地區,2020~2022年半導體設備採購規模都呈現逐年增加的趨勢,但仍與台韓中三地有非常大的差距。若看2018~2022年的合計設備銷售額,可看到在美中貿易戰衝擊下,中國是多麼積極地採購設備建制產能;美日投資額雖較之前有所增加,但在規模上仍遠遠不若台韓中三地;歐洲的投資力道則更不及美日兩地。若觀察前三大半導體設備廠的營收結構,台韓中三地各佔應用材料(Applied Materials)2022會計年度(2021/11~2022/10)公司營收的24%、17%、28%;佔東京威力科創(TEL)半導體事業營收的19%、16%、23%,均以中國為最大市場。可以想見2022年10月美國祭出出口管制措施,之後又要求日荷同步配合對半導體設備商的衝擊。高階微影設備領導業者ASML於2022年則以台灣為最大市場,佔比達38%,南韓次之,佔29%,而中國僅佔14%,相對受影響較輕。日本首相岸田文雄2023年5月邀請半導體產業龍頭業者齊聚官邸,試圖強化半導體供應鏈,而美國在2022年推出《晶片與科學法案》(Chips and Science Act)後,迄2023年5月申請獎補助業者已超過300家,6月負責晶片法中研發計畫管理的晶片研究與開發辦公室主任亦已到任。設備採購是產能布建及產品服務銷售的先期投資,觀察過去這幾年的半導體設備市場觀,台、韓、中在產能與未來幾年的銷售上,仍可望具有高度成長動能,但在美日歐的強力扶植下,各地都逐漸建立起相較過去更完備的半導體產業鏈,國際上「去全球化」的發展態勢下,台灣業者迎來的是「國際化」的挑戰,若能通過考驗,未嘗不是進一步壯大的契機! 
國防領域的量子技術
量子技術是將量子物理原理應用於實際情境的技術。費曼(Richard Phillips Feynman;1918~1988)是量子計算的奠基者之一,他提出利用光子進行計算的概念。其貢獻促進量子計算的研究和發展,為量子計算領域帶來卓越貢獻。在軍事領域中,量子技術一直是國防部門關注的重點。整體而言,量子技術尚未完全成熟,但它可能對未來的軍事感測、加密和通訊產生重大影響。量子應用涉及許多關鍵概念,包括疊加、量子位元和糾纏。其中最具挑戰性的應用是量子計算,這是一個令人驚嘆的夢想,可以實現無限計算能力,突破當今物理世界的限制。然而,計算是否有速度上的極限呢?如同光速限制在不改變時間的情況下穿越太空的能力一樣,是否存在著阻礙計算速度超越理論上最大值的錯誤糾正限制?建立一個有用的量子計算機需要處理超過可觀測宇宙中亞原子粒子數量的連續參數。目前還沒有確定如何操作如此龐大的量子系統,以及如何同時控制其誤差。 因此,我們應該專注於量子感測技術,以加速成熟的國防應用。量子感測技術可用於偏遠地區的全球定位系統(GPS)定位和其他導航工具,還可用於檢測電磁輻射,提升軍隊的電子戰能力。據美國海軍研究所(US Naval Institute)報告,量子感測技術可提升潛艇的探測能力,尤其是對於匿蹤潛艇和物體探測的能力,效能將超越過去的雷達技術。 中國電子科技集團在2018年公布其開發的量子感測原型裝置,據稱能夠探測飛行中的匿蹤飛機。美國國防科技巨頭Lockheed Martin,聲稱能夠使用量子羅盤(Quantum Compass)來改善美國海軍的導航能力。這種量子羅盤是由具有「氮-空缺中心」(Nitrogen-vacancy center)原子缺陷的微型合成鑽石製成的。當受到雷射照射時,其發出的光強度會根據周圍的磁場變化;透過地球磁場,這種光的變化可以提升導航能力,尤其是在極其偏遠的地區。總結來說,量子感測器具有潛力應用於情報、監視和偵察領域。成功開發和部署這類感測器可能會帶來潛艇探測能力的重大改進,甚至能夠對抗和摧毀海上核威懾力量。由於量子感測器對環境干擾非常敏感,軍事人員可以利用量子感測器來探測地下結構或核材料。此外,量子感測器的高靈敏度還有可能幫助軍隊探測電磁輻射,增強電子戰能力,並有助於定位隱藏的敵方部隊。 
競爭優勢加持 抗逆風的2023年半導體列強群像
近期人工智慧(AI)話題掀起熱潮,不過2023年全球半導體市場仍難脫衰退,主要受到記憶體市場恐將年減30%以上所拖累。非記憶體部分,幾家大廠包括英特爾(Intel)、超微(AMD)、高通(Qualcomm)、聯發科第1季營收均呈衰退。至於晶圓代工龍頭台積電,受到全球眾多IC設計公司、IDM業者所依重,但前4月累計營收亦較2022年同期減少1.1%,不如2022年時英勇。觀察2022年全球前廿大半導體業者,在2023年的年度營收仍有機會較2022年成長者,估計只有博通(Broadcom)、NVIDIA、意法半導體(STM)、英飛凌(Infineon)、Microchip等5家。其中,前兩者與資料中心有線網路晶片及AI晶片相關,後兩者則主要與車用半導體、工業用半導體有關。博通的半導體事業主要在有線通訊,特別是資料中心用網路通訊半導體,因此較不受一般消費應用如智慧型手機需求衰退等因素的影響。另外,博通的客製化晶片在雲端服務業者也佔有一席之地,如Google的雲端晶片TPU即採用博通的設計方案。隨著主要雲端服務及網際網路業者如亞馬遜(Amazon)AWS、微軟(Microsoft)及Meta紛紛以自研晶片提升服務效率及降低成本,博通及對應的晶圓代工業者台積電均能受惠。2022年前廿大半導體業者中,NVIDIA的2023年營收成長率預期將是最亮麗者。主要原因是2022年第4季以後,生成式人工智慧(generative AI)應用如火如荼地發展,在訓練模型方面,算力需求快速增加,其A100/H100在伺服器用GPU市場備受矚目,A100 GPU單價已高於一般的伺服器,H100 GPU更是A100 GPU的數倍。觀察前廿大半導體業者對第2季自家營收展望,NVIDIA在營收季增幅度及年增幅度均明顯領先。必須一提的是,NVIDIA純粹半導體營收估計僅佔整體營收的6~7成上下,高單價的伺服器系統(如DGX A100、DGX H100)、軟體解決方案的銷售金額佔比持續提升中。NVIDIA未來加速轉向AI生態系解決方案業者,不能單純以半導體公司看待。儘管車用半導體缺貨吃緊問題逐漸緩解,但對於優質產品供應商而言影響相對小,預期2023年全球車用半導體市場仍可創造近10%年增率,相對地,2023年整體半導體市場(包含記憶體)則恐年減8~10%。2022年英飛凌為第一大車用半導體業者,也是第三大工業用半導體業者。由於車用半導體及工業用半導體供應關係不輕易更換,在信賴度及品質上領導大廠仍佔競爭優勢。2023年英飛凌隨著該公司車用半導體新產能的進入量產,加上在第三類半導體碳化矽(SiC)的發展也有所成,在電動車、低碳化、高能源效率化三大趨勢下,英飛凌仍然處於順風的態勢,預計營收年增率有望突破10%,在前20大半導體業者營收年增率上有機會排第二名。意法半導體在2022年的車用半導體市場佔有率居第三大、工業用半導體市場佔有率為第四大,而車用及工業應用市場也是2022~2025年成長率較強勁的2個主要市場,優於通訊及消費性電子應用表現。意法的新建半導體產能在2023年以後陸續投產,可紓解過去該公司在市場上的供給不足。意法核心競爭力之一,乃掌握許多專屬製程,先進製程則委託台積電等業者代工。Microchip在2022會計年度營收的75%在工業用、資料中心與運算、車用,因此在2023年受到消費性電子及手機市場衰退的影響也較小,該公司與客戶簽有長期供應合約,且在微控制器(MCU)市場有其地位,不易受景氣起伏衝擊。總體而言,半導體市場雖然起起伏伏,但長期需求仍是向上,上述5家業者掌握雲端服務/資料中心、AI、電動車及ADAS、工業應用高效率化的大趨勢,能在半導體市場衰退年仍然逆勢成長,有其核心競爭優勢所在。本文探討僅限前廿大業者,若把眼光擴大至半導體供應鏈,美系EDA兩大龍頭業者近10年來營收未曾衰退,2023年也將持續成長,也是值得關注。
人工智慧的啟示
圖靈獎(Turing Award)得主Geoffrey Hinton在日前公開討論人工智慧(AI)的風險。AI「往往會從分析大量數據中學到意想不到的行為」。這並非意味著具有自主意識的AI會摧毀人類,而是我們無法預測AI的行為,特別是當個人和企業允許AI系統不僅生成其自身的代碼,而且在自己的計算機上運行這些程序時,Hinton擔心「有一天,真正的自主武器將那些殺手機器人變成現實」。第一個實際的AI系統是由Edward Feigenbaum及Raj Reddy實現,稱為「專家系統」,是一種智慧型的電腦程序,能運用知識與推論來解決只有專家才能解決的複雜問題;他們也因此一貢獻榮獲1994年的圖靈獎。然而,許多系統需要模擬的參數甚多,至今仍然無解。可見計算機模擬的應用博大精深,即使今日AI技術突飛猛進,有許多題目仍值得深入研究。圖靈(Alan Turing,1912~1954)在1950年發表一篇重要論文〈計算機與智慧〉"Computing Machinery and Intelligence",首次談論到AI,並提出圖靈測試(Turing test),為資訊領域創建智慧設計的標竿。圖靈測試指的是,如果一台計算機能夠欺騙人類, 相信它是人類,那麼它就應該稱為智能計算機。AI緣起於模擬人類行為,自然也常用於社會學。密西根大學的政治學教授Robert Axelrod,在1980年代進行一連串電腦模擬實驗,找一群專家寫出不同電腦程式,模擬人類行為,讓這些程式互動、合縱連橫,看哪個程式最後會勝出。這些程式有些模擬「金律」,有些模擬「銀律」,有些則模擬「鐵律」。所謂「金律」(Golden Rule),語出《新約》7:12「無論何事、你們願意人怎樣待你們、你們也要怎樣待人」;「銀律」(Silver Rule),語出《舊約》21:24「以眼還眼,以牙還牙,以手還手,以腳還腳」;「鐵律」就是「己所不欲,先施於人」,外在表現是「先下手為強,後下手遭殃」。結果最成功的是模擬「銀律」的Tit-for-Tat程式。這個程式一開始採取合作,若對方也肯合作,接下來則仍採合作策略;若對方吃你豆腐,下一步你就佔回便宜。在實驗中,實施金律的程式一敗塗地,屍骨無存,可見咱們先總統蔣公介石對日本「以德報怨」的做法是行不通的;實施鐵律策略的程式一開始也有不錯的表現,但長期下來,所有被它吃豆腐的人不是死了,就是躲它遠遠的,它最後也沒戲唱。有一個鐵律例子,就是石油大王John Rockefeller(1839~1937)。他專耍先下手為強的手段,整垮所有對手,成為最有錢的人。但他的手段未免太狠,大夥都不敢恭維。Rockefeller也知道自己以前做事實在不上道,因此在退休後的餘生,致力於慈善事業補過。然而,他過去的作為仍然禍貽子孫,他的後人能力再強,條件再好,想選總統,至今都選不上。延伸報導從Google搜尋趨勢看三大AI技術浪潮
米德教授奇人奇事
在Chris Miller所著《晶片戰爭》(CHIP WAR: The Fight for the World’s Most Critical Technology)一書中,多次提到Gordon Moore(1929~2023)與加州理工學院(California Institute of Technology)米德教授(Carver Mead)的互動。在1965年,當Moore還在快捷半導體(Fairchild),手繪出從1959~1965年每一矽晶片中電晶體成長數字,總計只有5點數據,並預測未來成長會依照每1.5~2年以1倍的速度增加。Mead教授當時是快捷半導體的顧問,隨即將此稱之為「摩爾定律」(Moore's Law)。Mead曾回憶,當時他正在研究半導體內電子的量子穿隧效應(tunneling effect),在此事後沒多久Moore就問他,穿隧效應要在很小的尺度才會發生,那電晶體可以做到多小的尺寸?Mead花了些功夫答覆此問題。1968年,Mead提出電晶體尺寸微縮理論(scaling),也就是在MOS電晶體的閘極長度微縮同時,每一電晶體所需耗用的功率是與長度成平方的下降,同時電晶體速度卻等比例增加—即電晶體效能是隨著電晶體閘極長度微縮,而呈現3次方的改善。當Mead在學術會議上,報告MOS微縮理論時,並預測未來1個晶片上可以有上億個電晶體存在,並沒有多少人相信Mead的理論。當時認為在這麼小的尺寸下,光是所產生的熱即足以燒毀整個電晶體。事實證明Mead是對的,Moore's Law橫跨超過50年時間,最主要的基石在於尺寸的微縮,而Mead的理論提供Moore's Law的理論基礎。Mead在1970年代初期,即洞悉未來晶片上可以製作出眾多的電晶體,代表將擁有龐大的算力,其也因此建議英特爾(Intel)高層,發展電腦所需的晶片。不過,如何有自動化的IC設計工具,處理日益複雜的電路設計,成為一個關鍵議題,Mead的研究隨即轉向IC設計。Mead於1970年在加州理工學院開設VLSI課程,在課堂上並將學生所設計的各式IC,用統一的光罩,手刻出布局圖,最後完成矽晶圓的製作。這比國內晶片設計中心對學術界的服務,整整早了20年。Mead與Lynn Conway於1979年合著的Introduction to VLSI System,更是IC設計者手中的聖經。Mead在1970年代初期,即投入Si compiler的研究,這是電路模擬及布局圖自動化的濫觴,造就現在EDA工具的產業。Mead更於1979年提出未來半導體產業,會由多數的IC設計公司(fabless),及較少數目的晶圓廠(foundry)所組成。這與同時期張忠謀先生,在德州儀器(TI)內部所提出foundry概念,不謀而合。筆者在美國求學時,即久仰Mead大名。因為筆者的研究題目是化合物半導體的微波高速元件及積體電路,第一個發明出此類元件(1965年出現的GaAs MESFET)的正是Mead。化合物半導體很難成長出優質的氧化層,不像矽晶圓有高品質的二氧化矽,所以化合物半導體只能利用金屬作為閘極,直接接觸到半導體。此接觸(junction)因為材料不同,衍生很多的介面缺陷,因此電子幾乎無法在通道內(channel)運行。Mead很技巧地利用此接觸所產生的空乏區(depletion),來控制電子數量,也由於電子遠離介面,所以能夠自由地運行。至今我們在無線通訊所使用的高頻元件,其運作方式依舊是使用Mead的原創。Mead在2000年後,又回到基礎物理研究,尤其是量子的電動力學及重力理論。Mead似乎可以在不同的學術領域,來去自如,悠遊自得。Mead於2022年榮獲日本的京都賞,獎金是5,000萬日圓。京都賞是由京瓷(Kyocera)已故創辦人,稻盛和夫於1984年所創立,獎勵全球對於前瞻技術、基礎科學及人文藝術等3個領域有傑出貢獻人士。華裔科學家鄧青雲博士,發明有機發光二極體材料,於2019年獲得京都賞;中國清華大學資訊科學教授姚期智博士,也於2021年獲此殊榮。Mead的學術研究,由基礎的半導體元件,到IC compiler的原創,以至於VLSI設計,對於半導體相關的領域做出重大貢獻,在學術界還無人能出其右。他的洞察力及遠見,更激發整個半導體產業的發展,終究造福大眾。
從南韓最新偶像男團Plave說起
前幾天在南韓一個主要流行歌曲音源榜Bugs上,有個出道2個多月的男偶像團體Plave首次拿下音源排名的第一、二名。南韓有不計其數的男團競相出道,相信多數讀者跟我一樣,記不得團名,分不清誰是誰,但Plave這團卻沒這個問題,因為他們是虛擬偶像。這個團體有5位成員,分別是諾亞、藝俊、班比、銀虎、河玟,有著外貌、身高、歲數、隊內角色擔當等角色設定,最年長的成員諾亞也才22歲,除了個子最小成員班比為174公分外,其餘成員都在180公分以上。這樣一個新出道虛擬男團,如何打敗眾多真實偶像團體拿下Bugs音源榜榜首?先來看一下這幾年南韓的虛擬偶像發展,如同我們在探討元宇宙有虛擬實境(VR)、擴增實境(AR)、混合實境(MR)、延展實境(XR)等定義和分類,南韓在虛擬偶像的經營上,做了可與此相對照的多元嘗試。一、實體偶像的虛擬分身:SM娛樂(SM Entertainment)的一線4人女團aespa在2023年5月剛推出的新專輯《My World》創下銷售破200萬張的佳績,其自2020年出道時,每位成員都擁有元宇宙的虛擬分身ae,分別為ae-Karina、ae-Winter、ae-Giselle、ae-NingNing(出道曲Black Mamba MV),2022年還跨界到RPG手機遊戲《第七史詩》,成為遊戲副本主角。二、虛擬偶像團:包括2021年出道的ETERN!TY及2023年出道的MAVE:等,前者是個11人的女子大團,出道前幕後推手人工智慧(AI)公司Pulse 9,還舉辦仿效南韓知名選秀節目的模式,推出101位AI女練習生供網友票選出前十一名出道。 (可見最新單曲DTDTGMGN MV )後者則是南韓影視娛樂業霸主之一的「Kakao娛樂」與遊戲公司「Metaverse娛樂」合作推出的4人女團,出道單曲Pandora自2023年1月下旬發布以來,迄今在YouTube上已達2,320萬次瀏覽紀錄,按讚數高達40萬次。(可見Pandora MV)三、虛實混合團:南韓第一個虛實混合團乃偶像男團Superkind,2022年推出第一位成員擔任門面角色的虛擬人物Saejin,這5人團體的另4位成員都為真人,2023 年3 月發布最新單曲,又新增1真人1虛擬人,擴編成為7人團。 (可見Moody MV)四、真人+2次元外皮團:這種組團模式就是本文一開始所談的Plave,幕後推手是南韓三大公營電視台之一的MBC旗下公司VLAST。Plave是一個5人男團,外形乃是南韓直條網路漫畫風格的俊男,但在這「二次元漫畫外皮」後卻是有5位真人團員,以3D模組+動態捕捉方式演出,於2023年3月12日推出首張專輯《ASTERUM》出道。(可見出道曲Wait for you初舞台 )一般南韓偶像團體推出新的單曲或專輯時,會有數週密集宣傳打歌期,衝刺流量與銷量,過了這段時間後在排行榜上成績就逐步往下,而像Plave這般單曲推出3個月後才「逆行」攀升至排行榜首位的情況極為罕見。我的觀察是,其他的虛擬偶像的呈現都是預先設定好的演出,但Plave則因為虛擬偶像外皮後是5位能唱能跳的真人,透過舞蹈挑戰、跆拳道示範等各種主題直播,可跟粉絲密切互動;由於是3D建模,在直播時常常出現團員間嚴重穿模(肢體間相互穿透疊加)或是肢體突然扭動至不可能角度的情況,團員間常常得自嘲或亂掰來因應補救,造成很多「爆笑梗」,也讓愈來愈多人入坑變成粉絲。從1996~1997年第一代偶像團體H.O.T、水晶男孩與S.E.S發展迄今,南韓偶像團體市場版圖早已涵蓋全世界,防彈少年團與Blackpink更成為全球最頂尖的潮流偶像。在這片市場沃土上,不僅有如IVE與New Jeans等大勢團體持續擴大聲勢,也有如本文提到導入新科技與新經營模式,探索虛擬偶像的各種可能。雖然元宇宙如今熱度稍退,但生成式AI的出現對元宇宙內容的發展卻是一大助力,擁有全球市場滲透力及已然嘗試多元虛擬偶像經營模式探索的南韓,是否又將在元宇宙再創新一波韓流呢?Plave出道迄今初嘗成功的經驗,是否也在提醒我們,high tech也需要high touch呢?
從「半導體即國力」到「AI即國力」
我受邀擔任「台灣AI超算年會- AI 2.0 · 超算 · 新生態」的座談主持人,當台智雲總經理吳漢章結束完Keynote演講,我問他,面對生成式人工智慧(Generative AI)的風起雲湧,有什麼感覺?他回答:「很興奮!」的確是,從PC、網際網路、智慧型手機、電動車以來,又再出現讓大眾如此「有感」的新科技,而對身處科技產業業內的我們,卻也知道,這是一個「AI大航海時代」的來臨,有識企業都在承浪而起,拓展自己的事業新版圖。我認為影響未來10~20年台灣科技產業發展的宏觀趨勢有三:「地緣政治」、「淨零碳排」與「人工智慧」。在國際秩序下,面對「地緣政治」衝擊我們只能因應與自保;「淨零碳排」可依循巴黎氣候協定各國訂出的碳中和目標與藍圖,逐步自我提升與發展新事業;但「人工智慧」ChatGPT這一波來得又急又猛,來不及完善布局就得提刀上陣,而我們也難以想像,繼ChatGPT後,未來的AI新技術/新模型又會給我們什麼意外的驚喜/驚嚇?因為高度衝擊性與與高度不確定性,所以才令人興奮!在中美貿易戰與COVID-19(新冠肺炎)後,由於攸關國家與供應鏈安全,但半導體先進製程產能卻集中在台韓,而中國透過國家資本投入急起直追,美、歐、日等主要國家/地區才意識到「半導體即國力」,祭出晶片法與巨額補貼法案,提振在地的半導體供應鏈。美、歐、日乃至韓、中等地所欣羨的,是台灣以晶圓代工廠為核心的完善半導體產業生態系,這些國家需要「120%努力」甚至「強求」才有機會獲得這樣的國力,但對台灣而言,這「半導體國力」就只是我們的日常運作而已!在生成式AI浪潮襲來,從美國的Open AI、微軟(Microsoft)、Google,到中國百度的文心一言,大型語言模型(LLM)/多模態(Multi-Modal)模型成為中美兩國競逐市場乃至競逐國力的顯學,宣告著「算力即國力」、「AI即國力」的時代已然來臨。「AI即國力」的時代,台灣供應鏈扮演關鍵推手,台積電的先進製程支持著NVIDIA、超微(AMD)、英特爾(Intel)的新世代GPU與CPU,以電子六哥為首的供應鏈,供應全球9成以上的伺服器,但這就代表台灣具有AI國力嗎?不是的,在機器學習(Machine Learning)/深度學習(Deep Learning)的規模化應用上,我們不可諱言落後中美等領先國家不少距離,而「產業AI化、AI產業化」的發展願景,可調查看看有多少業者從AI賺到大錢即可知迄今成效如何。傳統商業競爭基於規模經濟/範疇經濟,往往是「大吃小」的競局;網際網路時代基於網路效應(Network Effect),是「快打慢」的競局,在AI時代呢?優秀的新算法/新模型發布,往往不用幾個月時間,大量商業化應用便如雨後春筍般出現,可以預見生成式AI時代乃是「加速快打慢」的競局,early adopter與follower間的落差只會愈拉愈開。自ChatGPT於2022年11月發布,全球各國同步開始競逐「AI大航海時代」的版圖,台灣能基於「AI即國力」的前提下,成為early adopter,並將發展出來產業應用/企業應用滲透海外市場嗎?機器學習/深度學習的AI 1.0時代,除了政府、人工智慧學校、公有雲與NVIDIA等少數業者希望促成整體生態系發展外,多數業者其實各行其是、各自發展。如今台智雲在台灣AI超算年會上,揭露自身「AI Foundry」的策略定位,將自身台灣杉二號超級電腦的算力資源與多個預訓練模型開放給外部使用,以企業自身數據建立企業自身的地端模型與應用,並希望結合各界共同發展AI 2.0生態系。延伸報導開放生態助AI發展 台灣自研LLM接軌企業需求說實在,要扮演平台角色去enable整個生態系並不容易,能否成功仍是未知之數,但台積電1987年成立時,誰又能預見30餘年後會成為台灣的護國神山呢?圖説:從美國的Open AI、微軟、Google,到中國百度的文心一言,LLM/多模態模型成為中美兩國競逐國力的顯學,宣告著「AI即國力」的時代已來臨。符世旻攝(資料照)
從Google搜尋趨勢看三大AI技術浪潮
Google搜尋趨勢(Google Trend)是個好用的工具,有時我會透過搜尋熱度變化情況,觀察某個議題的發展。這次我鍵入AI技術典範轉移的3個字詞「Expert System」、「Deep Learning」、「Generative AI」,看看會呈現出哪些結果?若以Google Trend最早能提供查詢資料的時間2004年作為起始時間,「Expert System」的搜尋熱度一路往下,而「Deep Learning」則從2013年起搜尋熱度開始走揚,並於2014年與「Expert System」出現走勢交叉的情況。Expert System是早期真正商用化的AI技術,屬於規則式學習(rule-based learning)。其組成包括知識庫、推論引擎和用戶介面等3部分,透過大量請教專家,採用if-then-else的結構將專家知識和經驗建成知識庫,推論引擎則根據知識庫中的規則和推論機制來推論和決策,用戶介面則是如同ChatGPT,可用問答方式來獲取專家系統推論的答案。Expert System熱潮在80年代,因人類諸多內隱知識難以表達與形成規則,及規則式學習建立與維護資料庫的複雜度隨時間持續提高,專業領域專家系統(如醫療、土木等)逐漸式微,而一般企業管理用途的規則系統,逐漸被整合至如甲骨文(Oracle)與SAP等業者的企業應用軟體中。2012年多倫多大學教授Geoffrey Hinton與其2位博士班學生Alex Krizhevsky、Ilya Sutskever發表〈ImageNet Classification with Deep Convolutional Networks〉此一論文,帶動Deep Learning興起。機器視覺領域有個2010年由李菲菲發起的奧林匹克級學術競賽(ImageNet Large Scale Visual Recognition Challenge;ILSVRC),前2年優勝團隊都是採用傳統的機器視覺技術,Krizhevsky、Sutskever與Hinton的CNN神經網路模型AlexNet,在2012年競賽「top 5 test error rate」指標中,創下競賽以來的最佳成績15.4%,領先第二名的26.2%近11個百分點,從此Deep Learning躍為機器視覺領域主流。當2015年微軟(Microsoft)的ResNet以錯誤率3.6%勝過人類肉眼的5%錯誤率時,包括智慧交通、人臉辨識、瑕疵檢測等多元市場商機隨之起飛,也反應在從2013年迄今「Deep Learning」搜尋熱度上。相較於「Deep Learning」為既有資料進行分類與分群等分辨工作(如人臉辨識),「Generative AI」則是學習輸入資料的模式和結構,其後根據訓練數據的分布,生成相似但全新的數據。2014年的Ian Goodfellow提出的生成式對抗網路(Generative Adversarial Network;GAN),可說是帶動生成式AI發展的里程碑。接下來這幾年搜尋熱度微幅上揚,生成式AI主要是在專業族群中愈來愈受關注,直到2022年11月ChatGPT的橫空出世,引發媒體與社會大眾的關注與使用,搜尋熱度才急遽攀升。若直接比較ChatGPT與Expert System及Deep Learning,更可看到由於ChatGPT的爆炸性搜尋熱度,相對而言,Expert System及Deep Learning的搜尋熱度已被攤平成貼近水平的直線。Expert System之父Edward Feigenbaum在2007年接受美國電腦歷史博物館(The Computer History Museum)口述歷史訪談,在被問及「我們如何賦予電腦知識?」時,他回答「我想唯一的方法就是依循人類文明現有的方式。我們藉由文本這個文化結晶來傳遞知識。過去是手稿,接著是印刷文字,現在則是電子文本……我們需要想辦法讓電腦讀化學書來學化學,讀物理書來學物理,或者是生物學等其他學科……我們的人工智慧程式是手工製作並以知識建造的,除非我們有辦法設計出能夠閱讀、理解文本並從中學習的程式,否則我們將永遠無法突破。」(引用自陽明交大《數理人文》期刊第10期,〈人工智慧專家系統之父—專訪涂林獎得主費根堡之生涯回顧〉一文)Feigenbaum那時並未料到,Google的BERT與Open AI的GPT等近年發展的LLM在訓練文本上的驚人數量級提升。以Open AI來說,從2018年GPT-1的5GB訓練數據量/1.1億個參數,提高到2020年GPT-3的45TB訓練數據量/1,750億個參數。之後Open AI便不再公布訓練資料量,但最新發布的GPT-4估計可能超過1兆個參數。帶來的突破性成果正在為全世界各個領域的人們所嘗試與運用中。Deep Learning的2位關鍵開創者中,Ilya Sutskever是OpenAI的聯合創辦人及首席科學家,持續推進最前沿AI技術的發展,但近日Geoffrey Hinton卻離開Google,且呼籲人工智慧給人類帶來的威脅可能比氣候變遷更急迫,而曾是Open AI共同創辦者的Elon Musk也大聲疾呼暫停開發和測試比GPT-4更強大的語言模型。我不禁想問如今已87歲高齡的Feigenbaum,身為自然語言處理AI宗師的您,當強AI時代愈來愈近時,人類該如何踏出下一步呢? 
雲端服務大勢所趨 帶動台廠伺服器長期商機
2023年第1季電子產業上下游仍處庫存調節階段,在營收表現上相較2022年同期多呈停滯甚至衰退。然而,大型(Hyperscaler)雲端服務業者營運表現相對仍佳,加上生成式人工智慧(Generative AI)帶動的新應用熱度正夯,後續成長動能值得關注。2023年第1季亞馬遜(Amazon)AWS營收達213.5億美元,年增16%;微軟(Microsoft)Azure營收年增27%,另外Google Cloud Platform(GCP)營收年增率亦達28.5%。上述3家業者佔公有雲端服務市場比重約65%,維持強者續強的態勢。 回顧過去5年公有雲端服務市場成長情況,年複合成長率超過20%,AWS約佔全球IaaS、PaaS及代管私有雲(Hosted Private Cloud)服務市場的3分之1,維持第一大地位。AWS近期表示已對全球超過10萬個客戶提供人工智慧/機器學習(AI/ML)服務,相對於亞馬遜非雲端業務,近幾年AWS營收年成長率高出15~20個百分點、營業利益率也高出20個百分點以上,是亞馬遜整體版圖擴張及獲利成長的主要動力所在。微軟雲端相關(包括Azure、Microsoft 365等)營收比重亦大幅提高至佔整體公司營收約45%,企業策略定位明顯轉向雲端服務,在雲端服務市場佔有率亦逐步攀升,居全球第二大地位。隨著微軟生成式AI服務將導入旗下各個產品上,對雲端業務推廣預期將有推波助瀾的效果。展望2023年,受全球經濟景氣動能減緩影響,雲端服務市場成長動能確實不及2022年,如AWS營收年成長率在2022年第4季時為20%,2023年第1季減少至16%,預估2023年第2季時成長率再減至12%。不過,以中長期而言,雲端服務市場的長期發展仍應正面看待。由於企業IT採雲端方式進行可帶來彈性,資產投報率將會較佳,IT支出朝向雲端轉移的趨勢不大可能逆轉,加上AWS表示目前全球IT支出僅10%是在雲端進行,後續雲端服務市場的發展空間仍相當龐大。為因應雲端服務市場成長趨勢,雲端資本支出勢必連帶成長。以2023年第1季為例,微軟、Meta的資本支出年增率分別約24%、28%,2023全年亞馬遜的資本支出預算雖預估將較2022年減少,但AWS的部分則可望繼續成長。台灣伺服器廠商的客戶組成,來自於惠普(HP)、戴爾(Dell)、浪潮等伺服器品牌業者比重已退居第二,雲端服務業者則已躍居首位,且後者比重近年來持續攀升。因此,雲端服務業者的伺服器訂單,對台廠重要性日增。台灣與雲端服務相關的產業主要包括晶圓代工、IC載板、高速傳輸介面、伺服器組裝以及電源供應器、機櫃等次產業。以最直接相關的伺服器業者而言,台灣佔全球伺服器生產即超過93%。短期方面,根據DIGITIMES Research的調查,由於客戶調整訂單等因素,第1季全球伺服器出貨量較2022年第4季衰退,跌破400萬台(以主機板計算);2023年第2季因第1季基期較低,及品牌商新平台可望優先放量,預期出貨將有低個位數季增。展望未來,雲端服務市場成長趨勢未變,在生成式AI引發的新浪潮下,高單價的AI伺服器出貨量成長可期,儘管佔比有限。關於最新伺服器產業的分析及預測,請參考DIGITIMES Research伺服器產銷調查報告。延伸報導產銷調查:1Q23全球伺服器出貨跌破400萬台大關 2Q23出貨將僅季增3.9% ChatGPT效應有限
銅混合鍵合的發展與應用(三):未來應用
混合鍵合技術的新應用中,最引人注目的當屬高效能計算(High Performance Computing;HPC)。HPC在晶圓代工的產能中佔據最顯著的份量。HPC架構主體主要含處理器和記憶體。處理器通常以最先進的邏輯製程製造,但是記憶體(DRAM)的製程進展較邏輯製程緩慢,這個就產生落差。兩者之間溝通落差限制整體表現,而且製程也截然不同,屬於「異質」。延伸報導先進封裝技術競逐略有起伏 HPC導入熱度高於手機AP解決兩者之間效能落差的方法之一是利用平行處理。現在的處理器多具有雙位數數量的核(cores),每個個核需要支援其運作的個別記憶體。數量如此多的核-記憶體之間的連線需要多個I/O接點以及高頻寛,這就是十年前開始出現高頻寛記憶體(High Bandwidth Memory;HBM)需求的驅動原因。HBM是用2.5D封裝技術將CPU與至多8個DRAM堆疊封裝,其處理器與記憶體之間的連接是透過晶片的微鍵(microbond)連接底下中介層的金屬線至另外的晶片,如此一來I/O與連線的密度都可以大幅增加。對於常用於AI常用的GPU晶片,其核的功能比較專一,所以每個核的面積較小,一個晶片裡核的數目動輒上千。每個核所需要對應記憶體容量不需要很大,但是因為核與記憶體的數目有數量級的提升,連線及I/O的數目要求更高,此時銅混合鍵合就能提供其所需要的效能。這個應用也是目前多家代工廠、DRAM廠的技術及業務能力擴展方向。2022年3月Graphcore發布於台積電造的Bow IPU號稱是世界第一個3D WoW處理器,利用到的是混合鍵合的另一種優勢。2片晶圓一邊是AI處理器及其協作的記憶體,主要包括1,472個IPU(Intelligent Processor Unit,Graphcore為其處理器的命名)以及與各IPU協作的獨立900MB的分散式SRAM;另一個晶片負責提供電源。如此結構設計,Graphcore宣稱可以提升效能40%以及節省功耗16%。超微(AMD)最近的Ryzen系列也因為不同的原因採取混合鍵合技術,雖然使用的是CoW的技術,而非WoW。超微將CPU中面積較大的L3 cache單獨拿出並擴增容量、單獨生產,在不增加CPU系統面積的情況下,增加可用的SRAM容量,減少一般資訊處理必須傳送到DRAM的需求,因而提升速度、減少功耗。延伸報導銅混合鍵合的發展與應用(二):商業化應用其他混合鍵合的應用現在可預見的還包括無線通訊、AIoT、PMIC等。在混合鍵合的製造成本下降後,應用領域還有可能延拓的更廣泛。從晶片異質整合、效能提升、減少功耗、縮小面積等的幾個優點考量,只要混合鍵合的成本下降至各優點的價值臨界點後,技術的採用將會一一浮現。學習已經商業化的、正在醞釀中的應用並且分析其得失,是尋找新應用的 必要學習過程。