智慧應用 影音
DTR0626
ADI
台灣ICT產業的AI生態系
2010年前後開始真正受到矚目的深度學習(Deep Learning),是人工智慧(AI)相關技術進化的關鍵期,透過機器學習得到的經驗,讓AI技術有了新的依靠。2016年的AlphaGo更是推波助瀾的重要突破,之後各種邊緣裝置(Edge Devices)出現在市場上,相關技術與半導體晶片的進展也受到矚目。至於在半導體領域發展的特用AI晶片,則是一種特化型IC(ASIC),又可分為伺服器與邊緣端專用。目前大家關注GPU與CPU帶來的運算之爭,將來重心也會慢慢移轉到前端設備,這些都是重要的變化、挑戰,也是機會,而台商是海景第一排的有力角逐者。AI半導體是指可以讓AI軟體與演算法可以更有效率執行的各種專用晶片。現有的泛用CPU,在處理大量數據時可能面對極限,也讓出更多機會給不同的微處理器,例如GPU、DPU與用於推論的NPU,特別是當初用來處理圖像的GPU,運用在AI上,竟有遠超過原來期待的功能。特別是NVIDIA結合CUDA的軟體設計程式,造就了NVIDIA今天的盛況。除此之外,其他如現場可程式化邏輯閘陣列(FPGA)晶片也出現了新的契機。GPU與FPGA也都是泛用型IC,非只為某一客戶量身定製的ASIC。ASIC是具有明確目標功能的系統半導體,目前最被看好的GPU結合了CUDA軟體,在市場上具有壓倒性優勢,而NVIDIA的財報也證明過去的投資與軟硬整合的優勢正在發酵中。A100擁有6,912個CUDA Core與40GB HBM2記憶體,這套解決方案可以整合成一套超級電腦。2022年3月,NVIDIA推出效能比A100還要強大的H100。根據IDC調查,全球AI資料中心的市場規模,將從2021年的156億美元,成長到2025年的318億美元,年均成長19.5%,遠高於傳統伺服器市場的10.7%。至於AI晶片市場,各大顧問公司也有許多評估,多數看好未來幾年的成長,其中Gartner認為,AI晶片在2025年時可達700億美元,到2030年AI晶片市場總值將達1,179億美元,貢獻整個ASIC市場的31%。由於看好AI晶片商機,從超微(AMD)、英特爾(Intel)這些NVIDIA傳統的競爭對手,到上游的Arm、新思(Synopsys),以至高通(Qualcomm)、博通(Broadcom)每一家公司都虎視眈眈,英特爾甚至透過購併Habana,希望加速軟硬整合的實力。除此之外,美國、英國、法國都有很多新創公司嘗試開發出各種用途的AI晶片,中國當然也沒閒著。百度、華為、阿里巴巴、比特大陸等,都有明確規格與定義的AI晶片發展計畫。此外,南韓記憶體雙雄在記憶體內運算(PIM)市場上著力更多。三星電子(Samsung Electronics)在2020年發表HBM-PIM的產品,讓晶片可以在沒有連結資料中心的情況下,獨立進行演算,對聲音、影像在裝置前端的應用上深具意義。走在市場最前端的晶圓代工業、設計服務業者,大致可以維持應有的地位,但最受挑戰的是台灣IC設計產業。在晶圓製造領域,14奈米以下先進製程成為必要條件,擁有最先進製程的公司,仍將是市場上的寵兒。台灣IC設計業雖只佔全球市場的18%,在前十大業者中有3家來自台灣,但台灣擅長替代型商機,而非定義市場,參與前端市場的角逐。其次,業者面對人才短缺、成本激增、中國業者追擊等相關議題,真正有實力角逐頂級商機的廠商屈指可數。台灣的IC設計業者正積極趕上這一波大AI潮的滾滾商機。最後,前端設備的多元需求,AIoT商機無可限量。IBM估計,物聯網終端設備總量從2020年的150億台,增加到2025年的1,500億台。10倍速成長加上多元商機,如何發展通用效益,又可以差異化設計的發展機制,是台灣業者最大的挑戰。
是誰攪和AI一池春水?
為角逐未來AI商機,各大廠商也拉幫結派,NVIDIA購併了Mellanox與Excelero,而看似被NVIDIA拉開差距的超微(AMD),也購併賽靈思(Xilinx)及Pensando。邁威爾(Marvell)、博通(Broadcom)、英特爾(Intel)也都各有盤算,特別是英特爾在晶圓代工久攻不下,CPU/GPU/DPU市場又面對嚴厲的挑戰,除了發展類似CUDA的程式語言之外,也與Habana Labs合作,我們看到大廠決戰光明頂的景象,也知道AI競爭現在才進入火熱的階段。繼GPT-3.5之後,Open AI再度於2023年3月發表GPT-4,這套Foundation model更貼近市場的需求。短短幾個月之內,上億人的使用經驗成為「學習」的基礎,運算法的改善,也讓AI應用帶來新的境界。科技大腕相繼加碼研發,整個生態系的改善非常具體,微軟(Microsoft)的積極態度也帶來推波助瀾的效果。到2022年4月底止,Office 365已經有3.2億使用者,而搭配Office 365推出的Copilot軟體,讓這些使用者有條件從過去經驗中推演相關的應用。以Copilot的使用者做測試,每個使用者節省的時間大約是50%,這是個很龐大的數字與價值。Microsoft 365 Copilot可以連結Word、PowerPoint、Outlook、Teams等檔案,並與Microsoft Graph、LLM等功能同步使用,也使用Grounding的演算法。微軟在2022年底推出ChatGPT之後的兩個月,推出ChatGPT Premium的方案,每個月收取20美元的費用,應答問題的速度可以快3倍。透過各種搭載的方式,讓原先的Windows/Office等軟體得到升級的機會,這對微軟而言,是十年難得一遇的好機會。微軟搜尋引擎Bing市佔率僅有2~4%,遠遠不如Google,但在這次改變的過程中,可能會是最大贏家,在推出GPT-4之後,Bing市佔率提高到9%以上,2023年3月9日,Bing使用者首度超過1億人。儘管Google的每日活躍用戶數(DAU)已經超過10億人,但我們看到微軟在AI領域上的突破,可能給微軟在數據檢索上一個彎道超車的機會。未來大型資料中心將繼續升級,藉以進行加速運算,可以預期伺服器與相關晶片、服務業者的商機生氣蓬勃。過去每次的技術創新,都帶來龐大的衍生商機。從工業革命的蒸氣機到鐵路,從網際網路的出現到各種遊戲、生活體驗不斷革新,但這次的AI革命可能更勝以往。我們可以預期類似YouTube、SNS等新型態的服務平台一定會出現,對台灣的啟示就是「軟體應用」必須積極參與、學習,而硬體製造當仁不讓,特別是晶片與相關服務業者的價值體現,將會有新的面貌。
AI商機有多大?誰是獲利者?
一旦Open AI建立完整的生態系,就可以主導整個商機,影響力越大的品牌與解決方案,將會成為市場上的領導者。微軟(Microsoft)刻意造成「生成式AI等於Open AI」印象,加上Office 365的優勢條件,微軟可能是很大的受益者。由於需要強大的數據運算能力,在資料中心晶片市佔遙遙領先的NVIDIA成為最大的獲利者,台積電也因為是代工夥伴而受惠。現在NVIDIA跟英特爾(Intel)叫板,甚至暢言「CPU時代已經結束」!導入AI不外乎是為了使用者忠誠度、提高效率,提升競爭力等。估計Open AI的市場規模,將從2023年的2億美元,增加到2024年的10億美元。遊戲開發商可以利用各種AI工具加速產品的開發,並以各種內容的整合開發出新的商機與市場區隔。市場剛剛起飛,但速度也可能像ChatGPT一樣迅雷不及掩耳!相較於現在的檢索模式,對話式檢索機制成本必然會增加,光是學習自然語言的運算機制,各種伺服器、資料中心的投資就以1,000億美元的規模來計算。Open AI需要導入1萬顆以上的NVIDIA A100繪圖晶片,相關資本支出與背後的維護都非常驚人。另據Semi Analysis估計,Google自主開發的Google TPU v4,資本支出高達200億美元,這大約是Alphabet 2022全年資本支出的64%。可以預期「超巨量型資料中心」(Hyperscale Data Center)將是軍火競賽的一環,起步較早的微軟與AWS都是領先者。但無論是內部或外部的連結,都是資料中心管理者很大的挑戰。我們同時可以見到傳輸速度不斷的提升,到2025年時,使用800G數據傳輸速度的Switch將高達2,500萬個,這與2022年還是主流的100G相比,已經不可以道里計!整體而言,資料中心的演化,從最早的儲存資料進化到演算,現在則是分散處理,藉以取得最佳化的成果。為了有效管理這樣的需求,除了過去倚重的CPU之外,現在資料中心更關注DPU(Data Processing Unit)的進展。這些可以有效管理儲存數據的微處理器,將是下一波需求的主流。相較於過去專注在特定功能的微處理器,DPU更重視整合性的功能。簡單來說,CPU用於一般的運算功能,GPU是加速運算功能,而DPU是專注資料處理功能。「Scaling AI Compute」是從資料中心的運算,延伸到網通過程,以及邊緣端的多元AI運算機制。基於提高運算效能、降低功耗等多方面的考慮,大家把希望寄託在晶圓製造與EDA工具的進化。如何以ASIC半導體晶片為基礎,生產出可以符合差異化需求的硬體設備,也都是製造廠非常大的考驗。 
競爭優勢加持 抗逆風的2023年半導體列強群像
近期人工智慧(AI)話題掀起熱潮,不過2023年全球半導體市場仍難脫衰退,主要受到記憶體市場恐將年減30%以上所拖累。非記憶體部分,幾家大廠包括英特爾(Intel)、超微(AMD)、高通(Qualcomm)、聯發科第1季營收均呈衰退。至於晶圓代工龍頭台積電,受到全球眾多IC設計公司、IDM業者所依重,但前4月累計營收亦較2022年同期減少1.1%,不如2022年時英勇。觀察2022年全球前廿大半導體業者,在2023年的年度營收仍有機會較2022年成長者,估計只有博通(Broadcom)、NVIDIA、意法半導體(STM)、英飛凌(Infineon)、Microchip等5家。其中,前兩者與資料中心有線網路晶片及AI晶片相關,後兩者則主要與車用半導體、工業用半導體有關。博通的半導體事業主要在有線通訊,特別是資料中心用網路通訊半導體,因此較不受一般消費應用如智慧型手機需求衰退等因素的影響。另外,博通的客製化晶片在雲端服務業者也佔有一席之地,如Google的雲端晶片TPU即採用博通的設計方案。隨著主要雲端服務及網際網路業者如亞馬遜(Amazon)AWS、微軟(Microsoft)及Meta紛紛以自研晶片提升服務效率及降低成本,博通及對應的晶圓代工業者台積電均能受惠。2022年前廿大半導體業者中,NVIDIA的2023年營收成長率預期將是最亮麗者。主要原因是2022年第4季以後,生成式人工智慧(generative AI)應用如火如荼地發展,在訓練模型方面,算力需求快速增加,其A100/H100在伺服器用GPU市場備受矚目,A100 GPU單價已高於一般的伺服器,H100 GPU更是A100 GPU的數倍。觀察前廿大半導體業者對第2季自家營收展望,NVIDIA在營收季增幅度及年增幅度均明顯領先。必須一提的是,NVIDIA純粹半導體營收估計僅佔整體營收的6~7成上下,高單價的伺服器系統(如DGX A100、DGX H100)、軟體解決方案的銷售金額佔比持續提升中。NVIDIA未來加速轉向AI生態系解決方案業者,不能單純以半導體公司看待。儘管車用半導體缺貨吃緊問題逐漸緩解,但對於優質產品供應商而言影響相對小,預期2023年全球車用半導體市場仍可創造近10%年增率,相對地,2023年整體半導體市場(包含記憶體)則恐年減8~10%。2022年英飛凌為第一大車用半導體業者,也是第三大工業用半導體業者。由於車用半導體及工業用半導體供應關係不輕易更換,在信賴度及品質上領導大廠仍佔競爭優勢。2023年英飛凌隨著該公司車用半導體新產能的進入量產,加上在第三類半導體碳化矽(SiC)的發展也有所成,在電動車、低碳化、高能源效率化三大趨勢下,英飛凌仍然處於順風的態勢,預計營收年增率有望突破10%,在前20大半導體業者營收年增率上有機會排第二名。意法半導體在2022年的車用半導體市場佔有率居第三大、工業用半導體市場佔有率為第四大,而車用及工業應用市場也是2022~2025年成長率較強勁的2個主要市場,優於通訊及消費性電子應用表現。意法的新建半導體產能在2023年以後陸續投產,可紓解過去該公司在市場上的供給不足。意法核心競爭力之一,乃掌握許多專屬製程,先進製程則委託台積電等業者代工。Microchip在2022會計年度營收的75%在工業用、資料中心與運算、車用,因此在2023年受到消費性電子及手機市場衰退的影響也較小,該公司與客戶簽有長期供應合約,且在微控制器(MCU)市場有其地位,不易受景氣起伏衝擊。總體而言,半導體市場雖然起起伏伏,但長期需求仍是向上,上述5家業者掌握雲端服務/資料中心、AI、電動車及ADAS、工業應用高效率化的大趨勢,能在半導體市場衰退年仍然逆勢成長,有其核心競爭優勢所在。本文探討僅限前廿大業者,若把眼光擴大至半導體供應鏈,美系EDA兩大龍頭業者近10年來營收未曾衰退,2023年也將持續成長,也是值得關注。
人工智慧的啟示
圖靈獎(Turing Award)得主Geoffrey Hinton在日前公開討論人工智慧(AI)的風險。AI「往往會從分析大量數據中學到意想不到的行為」。這並非意味著具有自主意識的AI會摧毀人類,而是我們無法預測AI的行為,特別是當個人和企業允許AI系統不僅生成其自身的代碼,而且在自己的計算機上運行這些程序時,Hinton擔心「有一天,真正的自主武器將那些殺手機器人變成現實」。第一個實際的AI系統是由Edward Feigenbaum及Raj Reddy實現,稱為「專家系統」,是一種智慧型的電腦程序,能運用知識與推論來解決只有專家才能解決的複雜問題;他們也因此一貢獻榮獲1994年的圖靈獎。然而,許多系統需要模擬的參數甚多,至今仍然無解。可見計算機模擬的應用博大精深,即使今日AI技術突飛猛進,有許多題目仍值得深入研究。圖靈(Alan Turing,1912~1954)在1950年發表一篇重要論文〈計算機與智慧〉"Computing Machinery and Intelligence",首次談論到AI,並提出圖靈測試(Turing test),為資訊領域創建智慧設計的標竿。圖靈測試指的是,如果一台計算機能夠欺騙人類, 相信它是人類,那麼它就應該稱為智能計算機。AI緣起於模擬人類行為,自然也常用於社會學。密西根大學的政治學教授Robert Axelrod,在1980年代進行一連串電腦模擬實驗,找一群專家寫出不同電腦程式,模擬人類行為,讓這些程式互動、合縱連橫,看哪個程式最後會勝出。這些程式有些模擬「金律」,有些模擬「銀律」,有些則模擬「鐵律」。所謂「金律」(Golden Rule),語出《新約》7:12「無論何事、你們願意人怎樣待你們、你們也要怎樣待人」;「銀律」(Silver Rule),語出《舊約》21:24「以眼還眼,以牙還牙,以手還手,以腳還腳」;「鐵律」就是「己所不欲,先施於人」,外在表現是「先下手為強,後下手遭殃」。結果最成功的是模擬「銀律」的Tit-for-Tat程式。這個程式一開始採取合作,若對方也肯合作,接下來則仍採合作策略;若對方吃你豆腐,下一步你就佔回便宜。在實驗中,實施金律的程式一敗塗地,屍骨無存,可見咱們先總統蔣公介石對日本「以德報怨」的做法是行不通的;實施鐵律策略的程式一開始也有不錯的表現,但長期下來,所有被它吃豆腐的人不是死了,就是躲它遠遠的,它最後也沒戲唱。有一個鐵律例子,就是石油大王John Rockefeller(1839~1937)。他專耍先下手為強的手段,整垮所有對手,成為最有錢的人。但他的手段未免太狠,大夥都不敢恭維。Rockefeller也知道自己以前做事實在不上道,因此在退休後的餘生,致力於慈善事業補過。然而,他過去的作為仍然禍貽子孫,他的後人能力再強,條件再好,想選總統,至今都選不上。延伸報導從Google搜尋趨勢看三大AI技術浪潮
米德教授奇人奇事
在Chris Miller所著《晶片戰爭》(CHIP WAR: The Fight for the World’s Most Critical Technology)一書中,多次提到Gordon Moore(1929~2023)與加州理工學院(California Institute of Technology)米德教授(Carver Mead)的互動。在1965年,當Moore還在快捷半導體(Fairchild),手繪出從1959~1965年每一矽晶片中電晶體成長數字,總計只有5點數據,並預測未來成長會依照每1.5~2年以1倍的速度增加。Mead教授當時是快捷半導體的顧問,隨即將此稱之為「摩爾定律」(Moore's Law)。Mead曾回憶,當時他正在研究半導體內電子的量子穿隧效應(tunneling effect),在此事後沒多久Moore就問他,穿隧效應要在很小的尺度才會發生,那電晶體可以做到多小的尺寸?Mead花了些功夫答覆此問題。1968年,Mead提出電晶體尺寸微縮理論(scaling),也就是在MOS電晶體的閘極長度微縮同時,每一電晶體所需耗用的功率是與長度成平方的下降,同時電晶體速度卻等比例增加—即電晶體效能是隨著電晶體閘極長度微縮,而呈現3次方的改善。當Mead在學術會議上,報告MOS微縮理論時,並預測未來1個晶片上可以有上億個電晶體存在,並沒有多少人相信Mead的理論。當時認為在這麼小的尺寸下,光是所產生的熱即足以燒毀整個電晶體。事實證明Mead是對的,Moore's Law橫跨超過50年時間,最主要的基石在於尺寸的微縮,而Mead的理論提供Moore's Law的理論基礎。Mead在1970年代初期,即洞悉未來晶片上可以製作出眾多的電晶體,代表將擁有龐大的算力,其也因此建議英特爾(Intel)高層,發展電腦所需的晶片。不過,如何有自動化的IC設計工具,處理日益複雜的電路設計,成為一個關鍵議題,Mead的研究隨即轉向IC設計。Mead於1970年在加州理工學院開設VLSI課程,在課堂上並將學生所設計的各式IC,用統一的光罩,手刻出布局圖,最後完成矽晶圓的製作。這比國內晶片設計中心對學術界的服務,整整早了20年。Mead與Lynn Conway於1979年合著的Introduction to VLSI System,更是IC設計者手中的聖經。Mead在1970年代初期,即投入Si compiler的研究,這是電路模擬及布局圖自動化的濫觴,造就現在EDA工具的產業。Mead更於1979年提出未來半導體產業,會由多數的IC設計公司(fabless),及較少數目的晶圓廠(foundry)所組成。這與同時期張忠謀先生,在德州儀器(TI)內部所提出foundry概念,不謀而合。筆者在美國求學時,即久仰Mead大名。因為筆者的研究題目是化合物半導體的微波高速元件及積體電路,第一個發明出此類元件(1965年出現的GaAs MESFET)的正是Mead。化合物半導體很難成長出優質的氧化層,不像矽晶圓有高品質的二氧化矽,所以化合物半導體只能利用金屬作為閘極,直接接觸到半導體。此接觸(junction)因為材料不同,衍生很多的介面缺陷,因此電子幾乎無法在通道內(channel)運行。Mead很技巧地利用此接觸所產生的空乏區(depletion),來控制電子數量,也由於電子遠離介面,所以能夠自由地運行。至今我們在無線通訊所使用的高頻元件,其運作方式依舊是使用Mead的原創。Mead在2000年後,又回到基礎物理研究,尤其是量子的電動力學及重力理論。Mead似乎可以在不同的學術領域,來去自如,悠遊自得。Mead於2022年榮獲日本的京都賞,獎金是5,000萬日圓。京都賞是由京瓷(Kyocera)已故創辦人,稻盛和夫於1984年所創立,獎勵全球對於前瞻技術、基礎科學及人文藝術等3個領域有傑出貢獻人士。華裔科學家鄧青雲博士,發明有機發光二極體材料,於2019年獲得京都賞;中國清華大學資訊科學教授姚期智博士,也於2021年獲此殊榮。Mead的學術研究,由基礎的半導體元件,到IC compiler的原創,以至於VLSI設計,對於半導體相關的領域做出重大貢獻,在學術界還無人能出其右。他的洞察力及遠見,更激發整個半導體產業的發展,終究造福大眾。
從南韓最新偶像男團Plave說起
前幾天在南韓一個主要流行歌曲音源榜Bugs上,有個出道2個多月的男偶像團體Plave首次拿下音源排名的第一、二名。南韓有不計其數的男團競相出道,相信多數讀者跟我一樣,記不得團名,分不清誰是誰,但Plave這團卻沒這個問題,因為他們是虛擬偶像。這個團體有5位成員,分別是諾亞、藝俊、班比、銀虎、河玟,有著外貌、身高、歲數、隊內角色擔當等角色設定,最年長的成員諾亞也才22歲,除了個子最小成員班比為174公分外,其餘成員都在180公分以上。這樣一個新出道虛擬男團,如何打敗眾多真實偶像團體拿下Bugs音源榜榜首?先來看一下這幾年南韓的虛擬偶像發展,如同我們在探討元宇宙有虛擬實境(VR)、擴增實境(AR)、混合實境(MR)、延展實境(XR)等定義和分類,南韓在虛擬偶像的經營上,做了可與此相對照的多元嘗試。一、實體偶像的虛擬分身:SM娛樂(SM Entertainment)的一線4人女團aespa在2023年5月剛推出的新專輯《My World》創下銷售破200萬張的佳績,其自2020年出道時,每位成員都擁有元宇宙的虛擬分身ae,分別為ae-Karina、ae-Winter、ae-Giselle、ae-NingNing(出道曲Black Mamba MV),2022年還跨界到RPG手機遊戲《第七史詩》,成為遊戲副本主角。二、虛擬偶像團:包括2021年出道的ETERN!TY及2023年出道的MAVE:等,前者是個11人的女子大團,出道前幕後推手人工智慧(AI)公司Pulse 9,還舉辦仿效南韓知名選秀節目的模式,推出101位AI女練習生供網友票選出前十一名出道。 (可見最新單曲DTDTGMGN MV )後者則是南韓影視娛樂業霸主之一的「Kakao娛樂」與遊戲公司「Metaverse娛樂」合作推出的4人女團,出道單曲Pandora自2023年1月下旬發布以來,迄今在YouTube上已達2,320萬次瀏覽紀錄,按讚數高達40萬次。(可見Pandora MV)三、虛實混合團:南韓第一個虛實混合團乃偶像男團Superkind,2022年推出第一位成員擔任門面角色的虛擬人物Saejin,這5人團體的另4位成員都為真人,2023 年3 月發布最新單曲,又新增1真人1虛擬人,擴編成為7人團。 (可見Moody MV)四、真人+2次元外皮團:這種組團模式就是本文一開始所談的Plave,幕後推手是南韓三大公營電視台之一的MBC旗下公司VLAST。Plave是一個5人男團,外形乃是南韓直條網路漫畫風格的俊男,但在這「二次元漫畫外皮」後卻是有5位真人團員,以3D模組+動態捕捉方式演出,於2023年3月12日推出首張專輯《ASTERUM》出道。(可見出道曲Wait for you初舞台 )一般南韓偶像團體推出新的單曲或專輯時,會有數週密集宣傳打歌期,衝刺流量與銷量,過了這段時間後在排行榜上成績就逐步往下,而像Plave這般單曲推出3個月後才「逆行」攀升至排行榜首位的情況極為罕見。我的觀察是,其他的虛擬偶像的呈現都是預先設定好的演出,但Plave則因為虛擬偶像外皮後是5位能唱能跳的真人,透過舞蹈挑戰、跆拳道示範等各種主題直播,可跟粉絲密切互動;由於是3D建模,在直播時常常出現團員間嚴重穿模(肢體間相互穿透疊加)或是肢體突然扭動至不可能角度的情況,團員間常常得自嘲或亂掰來因應補救,造成很多「爆笑梗」,也讓愈來愈多人入坑變成粉絲。從1996~1997年第一代偶像團體H.O.T、水晶男孩與S.E.S發展迄今,南韓偶像團體市場版圖早已涵蓋全世界,防彈少年團與Blackpink更成為全球最頂尖的潮流偶像。在這片市場沃土上,不僅有如IVE與New Jeans等大勢團體持續擴大聲勢,也有如本文提到導入新科技與新經營模式,探索虛擬偶像的各種可能。雖然元宇宙如今熱度稍退,但生成式AI的出現對元宇宙內容的發展卻是一大助力,擁有全球市場滲透力及已然嘗試多元虛擬偶像經營模式探索的南韓,是否又將在元宇宙再創新一波韓流呢?Plave出道迄今初嘗成功的經驗,是否也在提醒我們,high tech也需要high touch呢?
人工智慧的基礎建設
各種機器學習模型的成本將因為半導體的運算能力而出現更好的價格誘因,一旦使用價格降低,使用者必然大幅增加。使用人工智慧(AI)將成為公私領域日常工作的一環,商品化的結果,就真會是「AI的iPhone時刻」來臨。一旦Open AI成為常態,各種生成式的應用都需要NVIDIA資料中心與專用晶片,業界的相關效益可想而知。與傳統伺服器不同,AI專用的伺服器有80%是使用GPU,10%使用CPU,而一般資料中心的伺服器,60~70%使用CPU的運算能力。以NVIDIA的DGX伺服器建構組合為例,用8顆GPU、2顆CPU組成,GPT 3.5就需要1萬顆A100晶片,而一般學習型的伺服器只需要500~4,000顆的GPU。大家都把焦點放在台積電,確實台積電是僅次於NVIDIA的贏家,而且這一波大潮才剛剛開始而已。NVIDIA最早推出的A100,在Hooper 100推出後,仍然具有很大的吸引力,那為何NVIDIA可以一枝獨秀呢?2013年以前,資料中心的投資規模一年大約550億美元,但真正大幅成長是在2013年以後。2017~2022年間,資料中心的年均成長達到11.8%,而估計未來5年,NVIDIA規格的資料中心,就算只以維持目前的市佔率估算,也可以有年均20%以上的成長率。樂觀估計者,甚至認為年均可以達到40%以上。NVIDIA吃肉,台廠喝湯也可以獲利豐厚。現在台廠只要跟繪圖晶片有關的,生意都做不完,市場傳言緯創、鴻海、廣達都接到大單,而黃仁勳在CPMPUTEX期間,去拜訪微星、技嘉,也與聯發科攜手開創智慧座艙的商機,伺服器之外,電動車、車聯網的商機還在等著!IDC指出,2023年AI與相關軟體的市場是5,192億美元。Gartner則說,2020年時,AI佔公司IT支出比重是7%,到2023年會增加到10.5%,而2026年是13.8%。這是以全球軟體市場當分母的推算,那麼軟體商機背後的硬體世界呢?幾年前黃仁勳曾說:「AI會吃掉軟體,軟體會吃掉硬體」的豪語。我認為黃仁勳的話說對了一大半,硬體是無可替代的,特別是晶片,最大贏家仍然是硬體製造業,而與伺服器、資料中心相關的事業體,也會有龐大的商機。
世界演化速度比我們想像還快
ChatGPT以雷霆之勢席捲全球,短短5天就累積達到100萬名用戶,相較於Facebook用了10個月、Netflix 41個月,ChatGPT與IG、Facebook、Spotify、Airbnb等前輩平台相比,速成的效率令人咋舌。2016年AlphaGo的出現,確實吸引一波投入人工智慧(AI)應用的熱潮,AlphaGo打敗世界棋王是整個AI應用的先聲,但棋王的世界我們很難想像。如果ChatGPT是個成功的典範,那麼關鍵原因就是ChatGPT走入了尋常百姓家,成為每個人都可以活用的工具,所創造的共營效益當然不可相提並論。也許很多人還在嘲弄人工智慧是「人工+智慧」,各種內容的品質仍有許多令人詬病之處,但從質與量兩個不同的角度思考,「量」的成長似乎更為關鍵,也因此初期的效益顯現在不需要深度思考的策略上。根據IDC估計,2022年全球的數據總量是97 zettabytes,估計2025年將倍增到180 zettabytes。只是台灣的佔比大約是1%,加上繁體中文的侷限性,台灣的AI產業要與本地接軌,得有非常不一樣的想法與戰略。有一段時間,我們還會說5G有很多閒置的空間,需要考慮6G嗎?但就算晶片運算速度再快,無法將數據往外傳輸,這些新的基礎模型,也都只是紙上談兵而已。數據之間的流通,除了資料中心儲存的大量資料與快速運算的能力之外,一方面也帶來網通產品的新商機。雲端的服務機制已經不是議題,而是必要的條件,串連公私領域的混合雲更受矚目。雲端服務業者,正結合網通設備將傳輸速度從現在的100G提升到400G,甚至往800G邁進。這些重要的趨勢,也可以從博通(Broadcom)的財報看出端倪。博通說2022年AI相關網通設備銷售金額是2億美元,估計2023年可以成長4倍,達到8億美元的規模。這個金額不是什麼了不起的成就,但很明確顯示,這是雲端與網通業者相關投資的領先指標。除了資料中心的運算與資料儲存能力之外,邊緣端的各種設備也都蓄勢待發,我們現在清楚知道,數據世界裡的變化是相互連動,也超過一般人能想像的範圍,網通環境也是促成AI應用走向商業運轉的重要推力。
是誰激起「人工智慧」的千層浪?
人工智慧(AI)早已被大家所熟知,但直到ChatGPT出現之前,大致還停留在暗潮洶湧的階段。延續三年的疫情,半導體技術的大進化,促成了AI應用技術在2023年大爆發。耀眼的成績讓NVIDIA的股價大漲,市值1兆美元的門檻讓人望而生畏。羅馬是一天造成的嗎?答案當然不是!2005年前後,GPU的演算能力開始與CPU出現差異,部分功能甚至可以領先。由於CPU與GPU的設計架構不同,這是很自然的演化。NVIDIA為了這一天已經做了很多年的準備,CUDA(Compute Unified Device Architecture)這個軟體開發環境,讓C語言程式使用GPU做圖像處理外的運作工作,也讓開發商更容易導入GPU,這也是NVIDIA領先的關鍵。一旦開發商都跟進,生態系自然就可以水到渠成,更多的資料中心採用NVIDIA的設計與GPU,間接也影響了台系伺服器與網通設備大廠的經營績效。在2020年導入GPT- 3之前,AI領域的進展十分有限,對答的內容仍然無法因應商業的需求。但過去6年,NVIDIA的資料中心晶片演算速度提升了26倍,NVIDIA執行長黃仁勳積極參與Open AI的技術合作計畫,透過長期的學習與使用經驗,如今NVIDIA的GPU結合了軟體,成為超巨量AI模型中的遙遙領先者。NVIDIA的奇幻之旅能延續多久?週邊生態系可以雨露均霑,還是贏家全拿?對台灣而言,AI成功的經驗意味著驚濤駭浪,還是如黃仁勳所說的:「這是人工智慧的iPhone時代」,台灣搭上這趟便車成為其中一個重要的贏家。產業界都說「贏家全拿」,想要分杯羹,需要什麼條件呢?台灣ICT產業有多少勝算,機會從何而來?對手是誰?黃仁勳1984年從大學畢業,迎接的是PC即將起飛的年代,而2023年是「AI起飛的年代」,期望畢業的學生可以掌握時代的契機,成為浪尖上的英雄。1984年底,我唸完研究所,1985年迎接的也是PC元年!讀完李開復的《人工智慧來了》,李開復說需要複雜決策與推論的工作,短期內很難被取代,這就是我說DIGITIMES目前高枕無憂的背景。如果再考量,Google搜尋引擎所到之處,繁體中文僅佔0.01%,這樣的生成式語言模型未必能滿足我們的需求。在B2C的市場,「繁體中文」是孤島式的數據組合,但在B2B市場裡,這可能是天然的保護傘,我們會做出什麼樣的選擇呢?江山如畫,一時多少英雄豪傑?他們都說這是「AI的時代」,但跟台灣有什麼關係?黃仁勳是「美國矽谷觀點」,開創微軟亞洲研究院的李開復是「北京觀點」,不是不對,只是咱們自己得「想清楚,說明白」,找到屬於台灣的AI時代!