智慧應用 影音
CES 2024展前瞭望:各類AI百花齊放、落地應用關鍵一年
2024年1月4日,CES主辦單位美國消費者科技協會發布名為「What Not to Miss at CES 2024」的新聞稿,揭露CES 2024 四大科技主軸,列名首位的是人工智慧(AI),若檢視2023年年初同一時間的會前新聞稿,所列舉的科技主軸分別是「Automotive and Mobility」、「Digital Health」、「Sustainability」、「Web3 and Metaverse」、「Human Security for All」,AI根本未列入其內。如此正好反應出由ChatGPT所點燃、突如其來的科技新浪潮,其勢頭是多麼的「兇猛」,該如何看待2024年的AI發展呢?疊加在過去AI基礎上發展的生成式AI回頭翻閱我過去的演講簡報檔案,2017年就在談「AI的下一步」,探討從雲端延伸到邊緣的趨勢,這是當時的熱門研討會主題,同樣的議題在2023年又成為顯學,預期也是2024年的發展熱點,這6~7年的時間發生什麼樣的改變?若就終端裝置來看,在手機領域,高通(Qualcomm)在2015年發表的Snapdragon 820,晶片內部便配置Hexagon 680 DSP,能執行1,024位元的向量運算,可作為AI推論引擎之用;在PC領域,英特爾(Intel)於2017年11月發布的Gemini Lake處理器,搭載第一代GNA(Gaussian & Neural Accelerator),作為語音處理與噪音抑制等背景工作負載的低功耗AI加速器。就邊緣運算來看,在生成式AI這波熱潮前,包括雲端、伺服器、網通、產業電腦等業者,都已提供邊緣運算解決方案,用以收集與處理應用場域端的數據,尤其這幾年5G的普及與2B通訊服務市場重要性的提升,更推波助瀾邊緣運算的發展。在演算法與應用方面,傳統的機器學習如迴歸模型或SVM(Support Vector Machine)已普及多年,近10年主要基於卷積神經網路(Convolutional Neural Network;CNN)的特徵萃取/物件辨識技術興起,從人臉辨識、人員管理、瑕疵檢測、醫學影像判讀、到自動駕駛與交通監控等各類應用均已逐步普及。在AI導入的效益上,根據McKinsey 2022年12月發布的AI Survey報告〈The state of AI in 2022—and a half decade in review〉,在其受訪企業中,導入AI的比重從2017年的20%,提高到2022年的50%;在效益上,2021年調查結果顯示,降低成本最明顯的領域來自供應鏈管理,有52%的受訪企業表示受惠,而促進業績成長的最明顯領域來自行銷/銷售領域及產品/服務開發領域,各有70%的受訪者表示有實質效益。2024年的AI發展,並非建立全新的基礎建設與生態系,而是在此已具備雲端—邊緣—終端協同發展及各類落地應用的基礎上,再進一步推動以大型語言模型(LLM)為主軸之生成式AI的應用落地。生成式AI發展新態勢在AI發展上,有幾個從2023年延續至今方興未艾的趨勢。從整體生態系來看,LLM軟體與服務堆疊(stack)可分為3層,底層是各大模型及其集散平台(如GitHub與HuggingFace);其上一層是各類LLM開發工具,如prompt工程與管理工具;最上層是包括文章寫作助理、程式撰寫助理、內容與創意生成、搜尋助理等終端應用程式。ChatGPT帶動基於LLM之生態系的蓬勃發展,接下來的發展應會類似iOS與Andorid生態系的發展般,Open AI/微軟(Microsoft)與Google會各有其生態系,而現以Meta LLaMA系列為主力的開源社群也會有其生態系,從2023年11月Open AI開發者大會推出GPT Store及客製化GPT「GPTs」,及2023年12月Meta、IBM與英特爾、超微(AMD)及Linux等公司與機構合組開源AI聯盟,已可窺見升溫的生態系競逐態勢。從模型來看,可見快速走向多元分化的趨勢,這包括針對泛用需求或特定工作任務、針對雲端/邊緣/終端不同場景的模型、或針對不同垂直領域或語系進一步強化等態勢。接下來這些在基礎模型上百花齊放的衍生模型,甚至可能如AppStore般發展出Model Store的商業模式。例子之一,是基於Meta 開源的LLaMA 2,已衍生出包括中研院、台智雲及多個中國大陸業者與機構進行中文優化的版本。例子二是華為雲2023年7月發布針對產業需求的盤古大模型三代,該系列模型包括「5+N+X」3層架構,最底的L0層包括自然語言、視覺、多模態、預測、科學計算等五個基礎大模型;中間的L1層包括政務、金融、製造、製藥、礦冶、鐵路、氣象等N個產業大模型;最上的L2層則是X個細化場景模型,例如輸送帶異物檢測、颱風路徑預測等。另一趨勢是生成式AI已逐漸從大語言模型朝向多模態模型發展。過去的多模態大模型作法是以既有的語言模型或是經預訓練可提取語意特徵的圖像模型為基礎,再使用多模態訓練數據增加新的網路層訓練,建立多模態模型。例如GPT-4除文字外,也可接受圖像輸入便是採此作法。Google在2023年12月所發布的Gemini,則是從一開始便使用多模態數據進行聯合訓練所建立的大模型,可無縫理解與推論各種模態的輸入內容並進行輸出,無論是文字、程式碼、聲音、圖像、或視訊內容。當大模型成為各家網路/雲端巨擘及眾多新創的主要戰場時,可預見接下來會有更多原生多模態模型問世。科技硬體業最關心的則是模型小型化與AI on Device的趨勢。Meta 於2023年7月公布的LLaMA 2除了70B版本外,也包括已可搭載到終端裝置的13B與7B兩版本。法國於2023年5月成立的獨角獸新創Mistral AI,在2023年9月發布開源的Mistral 7B,主打僅7.3B的參數模型,宣稱在所有基準測試結果優於Llama 2 13B,而Google的Gemini Nano版本則是先「蒸餾」大模型,然後進行4-bit 量化的微型模型,針對低記憶體容量與高記憶體容量終端裝置,區分為1.8B與3.25B兩個版本,且預告將首先搭載於Google的Pixel 8 Pro手機上。AI on Device的理想是走向AI Everywhere / AI on Every Device,2024年可說是生成式AI落地到各類終端的首年,全球智慧型手機銷售的高峰在2017年,約達14.2億支,而PC銷售高峰在2011年,約有3.6億台規模。近年除因疫情紅利,在2020~2021年創下高成長銷售佳績外,其餘時間都處於市場成熟幾無成長的狀況,AI PC與AI手機成為寄望所在。在物聯網裝置上,先前tinyML基金會定義tinyML規格,希望在MCU平台上,使用mW等級以下的超低功耗,在Always-on及電池供電的邊緣裝置執行邊緣運算。如今包括像是智慧音響、汽車智慧座艙,或是各類機器人等,也都因生成式AI帶來功能與應用的提升,有機會進一步刺激市場需求。既有硬體產品外,也誕生一些基於生成式AI的新興硬體產品,如由美國新創業者Humane所推出的無螢幕穿戴式AI裝置AI Pin、另一家美國新創Rewind AI推出掛脖的Rewind Pendant裝置。在台灣,募資平台上也有Plaud Note智慧錄音卡的項目,運用ChatGPT,將錄音內容轉成逐字稿並整理重點。總之,2024年將是生成式AI在過去的機器學習/深度學習發展基礎上,進一步加成與匯流的一年,也是各種硬體、軟體與服務大規模教育市場與測試市場水溫的一年,著重在建立早期採用者的族群與市場規模,是生態系演化、業者高速競合,期待、宣揚、亮點與失落交雜的精彩一年!
半導體材料開發新典範(二)
從AlphaGo問世迄今的近10年間,機器學習中的各式神經網路(neural networks)開始逐漸被應用到各種工商業的場景。與材料開發相關的應用之一就是用以優化材料製作過程,這個應用已經進入產業實作有一段時間了。  用機器學習中各種神經網路執行材料製程參數的優化,本是件很辛苦的事。人工智慧素有高維度的詛咒(curse of high dimensionality),亦即要優化的問題中參數數目的增加,其所需的算力必須以指數的形式增加。但是相較於以實驗來進行製程參數最佳化,機器學習仍然享有絕對的優勢。另外,即使不能達到全域最佳化(global optimization),使用可以大幅節省計算資源的局部最佳化(local optimization)也許就足以滿足應用的需求。  最近發表於《自然》期刊的文章〈Scaling deep learning in materials discovery〉,揭示運用機器學習於發現材料方法的量子大躍進。  過去使用計算所建立的非有機晶體資料庫如Materials Project、Open Quantum Materials Database、AFLOWLIB、和NOMAD利用前述的第一原理計算和簡單的原子替代方法,找到4.8萬個穩定的晶體結構,新的方法則將此數目再推進一個數量級!  它使用的方法叫GNoME(Graph Network for Materials Exploration)。首先,它建立系統性的方法來產生新結構:考慮晶格結構對稱性,以及隨機產生的結構。  然後將圖像神經網路(Graphic Neural Network;GNN)用上述的那些資料庫中的資料來訓練,改善結構的模型,用以過濾上述產生的新結構。這些挑選過的新結構再以第一原理來計算其能量,判別此結構是否穩定。  經過上述的反覆訓練、篩選、計算、再篩選的程序,GNoME總共找到42.1萬個結構,比之前單純只用第一原理計算及簡單原子替代方法建立的資料總比數4.8萬足足高了一位數量級。而且資料量愈大,能量預測愈準確—以指數成長的方式進步。  這個方法還有新結構的預測能力。用以訓練GNoME的資料最多只有4種原子所組成的結構,但是在沒有任何訓練資料的情況下,它也可以預測出5、6個單一原子組成的結構,而且與實驗結果對照是符合的。  這些與半導體材料的發展有什麼關係?以目前1奈米電晶體的主要候選CMOS架構為例,目前計劃以MoS2的二維材料來做通道(channel)材料,這是在工程均衡的考量下從過去已知的1,000多種二維材料中挑選出來的。但是經過GNoME的搜尋後,存在穩定結構的二維材料現在有5.2萬種,也提高一個數量級。負責前沿電晶體結構的研發工程師要不要重新再檢視一下這個新增的資料庫、看一看是否有新的材料可以建構性能更好的電晶體?  結合第一原理計算與圖像神經網路兩種工具,以計算方式尋找新材料是至今為止最先進的、最有效的的材料發現方式。於半導體的應用中,其實材料的形成方式也都使用半導體設備。以前面所述的二維材料為例,原子層沉積(Atomic Layer Deposition;ALD)是常用設備。也就是說,半導體製程就是材料製程,研發與量產一體化是很自然的措施。將半導體相關材料研發納入半導體廠的核心能力,有助於半導體廠整合更多價值增長環節進入晶圓廠,有利於維持長期持續成長的動力。
教育型機器人的作中學
科幻小說作家Isaac Asimov創造「機器人學」(Robotics)這個詞彙。他創作9篇短篇小說,收錄於《我,機器人》(I, Robot),描繪「正電子」(positronic)的發展,並探討這項技術的道德含義。正電子類似人類,是擁有人工智慧(AI)形式的機器人。機器人要模擬人類行為,很自然地會與AI結合,接下來又會衍伸出許多人文的議題。我演講時會問聽眾: 「人類和機器人結婚有意義嗎?」Asimov「機器人學」的框架極為宏大,包括機械工程學、資通訊電機學、心理學、社會學,甚至人類學。因此機器人相關的教育專題會成為STEM教育的很好實踐方式。STEM是一項跨領域、科目整合的教學方式,核心著重於科學(Science)、 科技(Technology)、工程(Engineering)及數學(Math),後續也延伸包含藝術(Art)。2023年12月,台灣教育界人士對108課綱的做法有許多爭議。我認為,解決方案是融合式的減法教育,其實就是STEM的精神。我更強調「作中學」的重要性,其中的實踐方式是讓學生進行融合不同學科的實作專題。很多人要我舉出實例,當中一例是我發展的EduTalk平台。另一個例子則是在新竹縣亞太美國學校舉行亞太區的教育型機器人競賽(VEX robotics signature events)。該賽事由機器人教育與競賽基金會(The Robotics Education & Competition Foundation) 主辦。這是全球最大的初中和高中機器人計畫,每年會以一場遊戲的形式呈現一個激動人心的工程挑戰。在老師和導師的指導下,學生們全年參與構建創新機器人並進行競爭。VEX機器人競賽可以在多個方面實踐STEM教育。首先, VEX這一類的機器人競賽透過提供親身參與的機會,激發年輕學生參與設計、建造和程式設計機器人的經驗。這種參與方式能從小引起對STEM領域的興趣,鼓勵他們進一步深入研究。參與競賽的學員將應用科學和工程原理,獲得實際的經驗。這種實踐式的學習方法,有助於彌合理論知識和實際應用之間的差距。這些競賽也同時強調團隊合作,分享看法,並善用多樣的技能解決複雜問題。這些合作經驗增進跨學科團隊共同參與創新項目。參與機器人競賽的學生可輪流在團隊中擔任領導角色,有助於培養領導能力、專案管理技巧和責任感。參與機器人競爭需要參與者以有創造性的方式應對挑戰並解決問題,從中培養批判性思維、適應性和韌性。參與學生會與來自產業的專業人士、導師和評審互動。這種接觸使他們瞭解當前產業實踐、標準和技術進步,為學生應對專業STEM領域的期望做好準備。在這次比賽戰況激烈。冠亞軍一直平手。在閉幕典禮時,朱家明校長邀請我頒獎。頒獎時,我講5分鐘鼓勵學生的話。我放了3部影片,是我的研究團隊及夥伴進行整合AI及機器手臂的成果,希望藉此擴大學生們的視野。最後我給學生一句話: 「享受進行專案的樂趣,快樂的玩耍吧。」學生不只要「作中學」,更要「學中樂」。(現為國立陽明交通大學資工系終身講座教授暨華邦電子講座)     
半導體材料開發新典範(一)
現代的半導體產業中,有3個經濟價值成長方式:製程繼續微縮、先進封裝與新材料開發的應用。製程微縮的研發的參與者數目寥若晨星,先進封裝的參與者稍多,而新材料的開發參與者貫穿整從上游至下游的個半導體價值鍊,成為整個產業的新焦點。  傳統的新材料開發方式,以合成(synthesis)為主,這是老牌材料強國日、德所擅長的。合成法以各式成分原子來組織穩定的化學結構,然後測試其化合物的各種性質—譬如導電性,以及在外來刺激下材料的反應—譬如順磁性(paramagnetism),或抗磁性(diamagnetism)。  合成過程當然非常依賴於知識和經驗,用以縮小搜尋適合特定應用目的的化合物範圍。但是能否發現適合應用目的的化合物也存有很高的機率性,因為搜索的範圍有限,對候選化合物的性質也僅憑臆測,基本上這就是一個試誤的過程。另外,合成的製程比較像手工藝,過程中的眾多的製程參數及方法過去很多是靠經驗或多批次試驗的結果,有點像匠人工藝,是以過去的材料先進國家能夠維持其材料開發及製造的優勢。  進入21世紀之後,由於計算力的快速提升,傳統的化合物—特別是晶體(crystal)化合物—的開發、性質預測、穩定結構的發現以及製作工藝的優化方法,都產生極大變化,連帶地將改變材料產業的競態勢。  2個領域的進展引發這個典範的轉換:第一原理計算(first principles calculation)和機器學習,不久以後也許還有量子計算,這些都是高度依賴算力的操作。其直接影響將是晶體化合物的各類性質可以精準預測、晶體化合物的製程可以最大程度的優化,以及可能的穩定晶體結構可以徹底搜尋用以建材料資料庫等。這些隨之產生的新能力對於需要新材料來滿足應用需求的使用者當然是夢寐以求的。  第一原理計算,或稱之為ab initio calculation,是指從最基礎的物理理論出發,計算晶體化合物的各種性質,這裡指涉的基礎物理理論一般是指薛汀格方程式(Schrodinger’s equation),但是在電子高速運動時,可能要訴諸更基本的量子電動力學(Quantum Electrodynamics;QED)—相對論版的薛汀格方程式。  雖然從最基礎的物理理論出發,但是現實的世界極為複雜,即使是一個單一原子系統,除了最簡單的氫原子之外,不存在解析解(analytic solution),遑論一般的化合物會牽涉到2個以上的原子核以及數十至於數百個以上的電子,所以某種形式的簡化處理是必要的,而數值計算(numerical calculation)也是不可或缺的。過去這些所遭遇困難的量子力學問題,也是當初驅策Richard Feynman倡議量子電腦的原因之一。  雖然第一原理計算其實早就開始於上世紀70年代,但是一直要到90年代後其準確度才逐漸被學術界-包括物理、化學、材料等領域-所接受。受限於當時的電腦計算能力,還無法直接投入產業真實的應用。  第一原理計算可以用來預測一種特定晶體化合物的各種物理、化學性質,從帶隙(bandgap)、導電性、極化(polarization)、磁性(magnetism)、光學性質等,幾乎無所不包,其中很多性質是半導體產業關注的核心。連現在半導體在奈米尺度製程中最關心的介面性質、缺陷、摻雜等精細結構的敘述,第一原理計算現在都可以給出相當準確的預測。  大概不到10年前,我跟某一晶圓製造公司建議設立一個第一原理計算團隊,理由是可以節省大量工程試驗批(engineering pilot lots)的經費和時間。當時他們的回應只是笑笑,半導體廠要做數值計算物理的人做什麼?現在他們已經有一支不小的第一原理計算團隊了。 Scaling deep learning for materials discovery .
2024年產業展望:AI應用浮現,半導體成長動能方向明確
半導體產業對台灣的重要性不言可喻,其中,台積電在10奈米(不含)以下先進製程具有極高的全球佔有率,因此不論是蘋果的手機應用處理器(Application Processor)、人工智慧(AI)伺服器用的GPU或是雲端資料中心所需的客製化晶片(Custom ASIC),最後大多數都依賴台積電生產。回顧2023年,整體半導體市場呈現9%的年減幅度,就半導體元件類別分析,主要是受到記憶體產品市場年減幅度達到35%所致,少數持續成長的領域出現在AI相關聯的伺服器用GPU及雲端網路資料處理晶片、電動車相關的功率半導體,例如碳化矽(SiC)元件、矽基IGBT等。全球前20大半導體業者中,估計僅有5家在2023年營收可達正成長,包括NVIDIA、博通(Broadcom)、英飛凌(Infineon)、意法半導體(ST)、恩智浦(NXP),後面3家業者主要因為車用半導體佔營收比重高,而車用半導體是五大終端應用裡年成長率最高者;NVIDIA主要成長來自於AI伺服器用GPU及其資料中心用資料處理器(DPU);博通在網通基礎設備用晶片及客製化AI晶片擁有高市佔率,需求持穩且議價力高。展望2024年,全球半導體市場預期可成長雙位數達12%,以下3點值得關注。首先,終端市場持續消耗庫存,2024年下半半導體業者庫存水準及出貨將陸續回復正常。2023年下游終端業者下單縮水以消耗庫存,導致近3季半導體業者產能利用率偏低,截至2023年第3季末的半導體業者庫存水位仍然高於歷史平均水準。預期半導體廠商的產能利用率(特別是8吋及以下晶圓廠)距離恢復正常,恐怕還需要至少2~3季的時間,這一部分可以就各主要國家製造業採購經理人指數及晶圓廠產能利用率、上下游庫存水準續作觀察。過去以來,半導體市場一直都有景氣循環的特性,主要原因是半導體廠全新投資到量產往往需要2~4年時間,投資決策時的需求判斷與日後實際需求狀況可能有落差,新興應用崛起、晶片供應鏈失衡、經濟波動、地緣政治等因素都會造成供需態勢的變化,過去20年全球半導體市場成長14年,衰退6年。觀察中長期去是,仍是處於穩定成長的上升軌道上。 其二,分析半導體終端需求面,2024年四大主要應用晶片市場都將出現正成長。預估四大應用市場分別是智慧型手機、伺服器、汽車以及PC。上述四大類終端產品的年出貨量可望較2023年增加(2024年汽車出貨量年增幅度有限,但電動車比例可望繼續提升,有利車用半導體市場繼續成長),其平均半導體含量也會較2023年高,有助2024年半導體市場成長。WSTS最新預估2024年全球半導體市場可望年增680億美元,DIGITIMES研究中心預估上述四大應用半導體需求年增可達480億美元,佔2024年淨成長金額約7成。其三,就熱門半導體而言,無疑地AI、高效能運算有關的半導體最值得關注,NVIDIA的伺服器用GPU仍然炙手可熱,該公司截至2023年10月29日的最新季度毛利率為74%,營業利益104億美元,營業利益率達57.5%,若單看伺服器用GPU及配套軟體服務,估計毛利率可達80~85%。NVIDIA之外,客製化AI運算晶片及協助AI運算相關的網通晶片也是高成長的產品,受益者包括博通、Marvell及負責生產的台積電,更多的雲端及網路服務業者為降低運算成本及耗電,紛紛往客製化晶片方向發展。另外,AI PC、AI手機的崛起也將帶來新的晶片契機,不過2024年還處於模索、定義需求的階段,預期終端產品大量出貨時間點可能落在2025年。記憶體市場在2022及2023年連續2年明顯衰退,主要原因是記憶體市場單價波動大,再加上2022~2023年智慧型手機及PC兩大應用出貨衰退所拖累,預估2024~2025年可望恢復成長,2024年因為主要DRAM記憶體業者擴產重心放在高階AI伺服器必須的高頻寬記憶體(HBM),在非HBM的DRAM產能擴增有限,一方面HBM的單位售價遠高於一般DRAM,另一方面,減緩一般DRAM產能擴增也有助於DRAM市場供需持穩,預估2024年記憶體市場可望年增40%以上,其中DRAM市場比起NAND Flash市場成長性高,主因供需態勢較有利及HBM因素。
2024年產業展望:從汽車市場變化看中國車業崛起
2023年是中國大陸汽車產業崛起的關鍵里程年。一方面在中國國內市場國產品牌市佔率首次過半,一方面趕超德日,成為全球第一大汽車出口國。2024年我們將見證其進一步擴大戰果,全球各地市場的汽車/電動車品牌競爭,也將陸續出現洗牌的情況。國內市場首次市佔過半中國輕型汽車市場佔全球1/3規模,電動車市場佔全球近6成,中系業者只要在中國國內拿下顯著市佔率,在全球就能取得規模市佔率。從整體汽車市場勢力變動來看,中國國產品牌2016年的市佔率為40.7%,其後於2020年來到最低點的35.7%,其後便逐年提升,2021與2022年市佔分別為41.2%與47.3%,2023年前11月合計市佔率進一步提高至51.7%,11月單月市佔率更已高達55.3%,預計2023全年可破52%市佔。外資合資品牌長期以來以生產與銷售為主,在研發與決策上多受制於海外母廠,而隨中國國產品牌業者在電動車與ADAS、智慧座艙功能與規格上推陳出新,且產品區隔上覆蓋包括豪華車在內的各個價格區隔,而隨品質與功能規格提升,中國消費者逐漸對國產品牌有更高的接受度時,市佔率消長之勢便一去不復返。在自主品牌崛起的過程中,德國除外的歐系品牌及韓系品牌是先被洗刷出局的業者,2022年便已各拿不到2%市佔率,日系與德系業者則在2020年市佔率分別拿下24.1與25.5%的近年新高,其後便逐年下滑,至2023年11月僅守住15.6%與18.7%市佔率。2023年以日系業者的下滑最為明顯。若檢視2023年1~11月零售銷量,廣汽豐田年增率衰退5.3%,一汽豐田僅成長2.3%,低於整體市場成長;本田中國2022年銷量已跌12.1%,2023年至11月累計銷量再跌13.5%;日產汽車2022年走跌超過22.1%,2023年至11月累計銷量再跌28.6%。三菱汽車更於10月初宣布退出中國市場。在2023年1~11月中國汽車零售銷量前十大品牌,合計拿下58.9%市場,其中中國國產品牌比亞迪、吉利、長安、奇瑞、長城名列第一、三、四、九、十位,合計市佔率達32.7%,合資品牌一汽大眾、上汽大眾、廣汽豐田、上汽豐田、一汽豐田則合計拿下26.2%,差額已超過6個百分點!自主品牌主宰國內電動車市場電動車取代油車趨勢,是中國國產品牌崛起的一大主因。全球電動車普及以北歐國家為先,但市場規模甚小,中國則是近年滲透率發展緊追其後,但超大規模的市場。中國整體車市近年以2017年為高峰,零售銷量2,371萬輛,此時油車(純油車及混動車合計)仍有2,319萬輛銷量,其中純油車2,309萬輛,混動車(HEV)10萬輛,另電動車僅有52萬輛。自該年起迄今,每年純油車銷量均為負成長,至2022年僅剩下1,410萬輛,2023全年估計約在1,300萬輛,比2017年少了整整1,000萬輛。即便混動車2023年估計增為85萬輛,仍無法掩飾整體油車市場大幅衰退的情況。中國石油巨頭中石化已於8月提出,2023年便是中國燃料汽油的高峰,較其先前預期提早2年!電動車佔中國整體汽車市場佔比,從2022年1月的17.0%,大幅提升至2023年11月的40%。至2023年11月累計中國國產品牌約拿下85%市場,其餘仍稍有點市佔率的美系品牌與德系品牌則僅各拿下約9%與5% 的市佔率,日系品牌僅剩1%,至於韓系與其他歐系品牌已幾無市佔率可言。在2023年1~11月零售銷量前十大電動車品牌中,只有Tesla與合資廠上汽通用五菱排名第二與第五,其餘包括比亞迪、廣汽埃安、吉利、長安、理想、長城、蔚來、奇瑞均為中系業者。若看2023年1~11月中國汽車的價格市場結構,高價區隔人民幣(以下同)40萬元以上、30萬~40萬分別佔3%、11%,中高價區隔20萬~30萬、15萬~20萬各佔17%,低價區隔10萬~15萬、5萬~10萬及5萬以下各佔比34%、15%及3%。電動車滲透率最高的是5萬以下區隔,其次是20萬~30萬區隔,2023年11月滲透率分別達到85%與52%。近幾年中國國產電動車業者的市場拓展,其中一路的發展是從5萬以下區隔進而延伸到5萬~10萬及10萬~15萬區隔的小型車及緊湊型轎車區隔,2023年11月滲透率分別為41%與32%。另一路的發展則是20萬~30萬區隔,往下一區隔15萬~20萬及往更高價的30萬~40萬及40萬以上的大型車/豪華車區隔延伸。2023年11月的滲透率依序為36%、46%與32%。除了純電動車銷售持續成長外,2023年更出現以理想為首的增程式電動車市佔率大幅成長的態勢,在30萬~40萬區隔市佔率已逼近純電動車,而在40萬以上區隔2023年各月銷量均勝過純電動車。 中國躍升為全球第一大汽車出口國非造車新勢力的中國國產車廠很早就開始拓展海外市場,但在2010年前每年出口量都在70萬輛以下,2011到2020則成長一個位階,來到80萬~120萬輛間;自2017年起則每年維持穩定破百萬輛的出口規模。疫後出現中國國產品牌的成長大契機!此時中國既有業者以及造車新勢力在國內市場激烈競爭下,已經有了一批在電動車或在ADAS/智慧座艙的功能與規格上突出的車款,且因內需市場激烈競爭讓其具備高性價比,而車廠為尋求量產經濟規模及中長期成長而積極拓展海外市場,此時正好面臨全球疫後缺料,新車交期長久的供給缺口,中系業者趁勢而起!2021年與2022年中國汽車出口量達219萬輛與340萬輛,2023年1~11月擴大為476萬輛,全年可破520萬輛。從2020年的108萬輛迄今,短短4年增加400萬輛,也讓中國在這幾年連續追上南韓、墨西哥、日本、德國,於2023年首度躍升為全球第一大汽車出口國。在這些中國出口的汽車中,外商中除Tesla外,其餘歐美合資廠相對出口不多,中國國產品牌則佔整體出口的85%左右,主要業者包括上汽、奇瑞、吉利、長城、比亞迪等,主要出口地區為歐洲、南美、東南亞與中東。因俄烏戰爭外資車廠退出之故,俄羅斯異軍突起,成為2023年中國汽車第一大出口市場,2023年7月起,中系業者便已拿下過半市佔率;其次出口主要市場依序為墨西哥、比利時、澳洲、英國、沙烏地阿拉伯,泰國、菲律賓、阿拉伯聯合大公國與西班牙;其中在海外第二大市場墨西哥,市佔率也已經破20%。除透過整體出口全散裝料(CKD)外,中系業者也積極在海外設置生產據點,進一步拓展各地市場。過去這些年,包括上汽MG品牌、長安、吉利、長城、奇瑞,已陸續在泰國、印度、巴基斯坦、印尼、俄羅斯、埃及等地設廠,接下來包括比亞迪、長安、廣汽埃安、奇瑞都會在泰國建廠,此外比亞迪與長城至巴西設廠,奇瑞至印尼設廠。此外,令美國開始緊張的是,包括比亞迪、MG與奇瑞均已在評估在墨西哥設廠。回顧豐田、現代/起亞、福斯等車廠的發跡歷史,都是先在國內市場取得領先,其後透過貿易方式拓展出口,再進一步至各地設廠深化經營市場,其後在主要市場拿下顯著市佔率。石油危機後的美國市場之於豐田、現代/起亞,又如經濟起飛後的中國市場之於豐田與福斯,繼之成為全球領先車廠,如今中系車廠正依循前人的成功模式崛起!2023年是中系業者在內需與出口市場出現結構性轉變一年,中系業者如何進一步擴大戰果,加速顛覆既有的市場與產業結構,既有汽車產業領先國家是否會擴大祭出相關政策延緩中系業者崛起之勢,將會是2024年全球汽車產業發展的主要觀察重點。
深度偽造技術
Nikola Tesla(1856~1943)在1890年代預言「21世紀時,機器人將取代古代文明中奴隸勞動所佔據的位置。」這項預言在當今的人工智慧(AI)技術的發展下似乎正在實現。早期的AI技術已經能夠大致準確地分辨狗和貓的圖片,隨著生成式人工智慧(generative AI)的突破性發展,它逐漸深入我們的生活並引領著社會變革。當AI技術進入深度偽造(DeepFake)的層次,將會加速我們進入元宇宙世界,實現Tesla的預言。深度偽造是一種透過電腦生成的影片技術,用於創造看似真實的虛假影像。它使用AI技術將一個人的臉替換為另一個人的臉,同時匹配微小的面部表情,從說話到皺眉都能保持一致。這項技術利用深度學習算法和大量訓練數據生成逼真的影片,使觀眾難以區分真實和偽造的影像。製作一個臉部交換的視頻通常需要以下步驟:首先,使用編碼器處理2個人數百萬張的照片。編碼器是一個AI系統,用於尋找並學習2個臉部之間的相似之處,並將這些相似之處簡化為共同的特徵,並壓縮圖像。然後,使用一個名為解碼器的第二個AI系統,從壓縮的照片中恢復出臉部。你訓練一個解碼器來恢復第一個人的臉部,另一個解碼器來恢復第二個人的臉部,因為這兩張臉是不同的。當需要進行臉部交換時,只需將編碼的照片輸入「另一個」解碼器。例如,將某甲的臉部壓縮圖像輸入已經訓練過某乙的解碼器。然後,解碼器使用某甲的表情和面部定位來重建某乙的臉部。為了製作逼真的影片,這個步驟必須處理每一幀畫面。現今,訓練某甲與某乙臉部的模型,以及在影片中合併臉部的過程,幾乎可以即時完成。早期有名的深度偽造例子包括2個假影片:美國前總統Barack Obama稱呼川普(Donald Trump)為「完全蠢貨」和Mark Zuckerberg吹噓對數十億人的被盜數據擁有絕對控制。我們在烏克蘭的戰爭中也見證假影片的應用,以及使用知名人物臉孔的成人內容。然而,深度偽造技術也可能被用於音頻和圖像,大部分國家禁止未經同意且具有邪惡目的的深度偽造使用。不過,除了潛在危險性,深度偽造技術在一些有趣且輕鬆的應用中也顯示出潛力。例如,將深度偽造應用於教育領域,可以使課堂更有趣。想像一下,在英文課堂上,可以邀請虛構的名人來講解課程,例如劉德華。雖然使用真實人物的深度偽造可能會被視為非法,但是使用不存在的人物則可以避免法律問題。企業也開發並銷售深度偽造服務,以實現自動化新聞播報,甚至減少演員的參與,節省成本。例如,TikTok 上就有一個深度偽造的阿諾史瓦辛格(Arnold Schwarzenegger),使用俄語講話,省去了他學習俄文的功夫。深度偽造技術的應用範圍廣泛且多樣,但我們必須謹慎使用,以避免濫用和潛在的負面影響。只有在合法、道德且有創意的方式下,才能充分發揮深度偽造技術的潛力。(作者為國立陽明交通大學資工系終身講座教授暨華邦電子講座) 
全面散熱(二)
量子電腦有機會成為終極的散熱問題解決方案。Richard Feynman最原始的概念是以量子的方法解決量子問題,首先講究的是效能。現在耗電最兇的人工智慧(AI)伺服器相關應用,在量子電腦上也都有其相應的量子AI演算法,速度相對於現有的傳統AI運算都是平方加速(quadratic speedup)、甚至是指數加速(exponential speedup)。量子電腦計算速度快自然耗能小,逸出的廢熱就更少。這是量子計算於散熱問題上的第一重好處。  Feynman第二篇談論量子計算的文獻主題,是量子計算是可逆的(reversible),這是與散熱直接相關的議題。  傳統的二進位邏輯閘運算,譬如AND gate,輸入有2個位元,但是輸出只有1個位元,也就是說傳統的二進位計算過程可能會喪失訊息,而喪失訊息意味著熵值增加,這就是廢熱的來源。  量子計算的操作基本上是以微波來控制、轉變量子位元的狀態(state),計算起始的量子位元數目與計算完成的量子位元數目是一樣的,因此沒有訊息的喪失。量子計算的可逆性基本上是說如果從計算完成的量子位元反著步驟計算,可以回復出起始的量子位元狀態。這種可逆性只存在於熵值不增加的計算過程中。也就是說,先姑且不論量子計算的週邊線路和冷卻需求所可能產生的廢熱,量子計算的核心部分理論上是不會生廢熱的。這是量子計算於散熱問題上的第二重好處。  量子計算另一個優點較少被提到:量子計算也是記憶體計算。所有的量子計算都在停留在一組量子位元上反復操作,毋需將訊息挪動到緩存記憶體(buffer memory)上—其實目前也沒有量子記憶體可用。量子位元本身既是處理器,也是記憶體本身,這就是記憶體計算,自然不會產生搬運訊息產生的焦耳熱,絕大部分的量子位元屬於此一類型。  唯一的例外是光子量子位元。光子在運算時的確會在矽光子的模組上處理,訊息的確會在光源和感測器中被傳輸。但是如上文矽光子一段所述,光子的傳輸理論上也不會生焦耳熱的。因此目前困擾半導體業的焦耳熱問題,在量子計算的過程中只存在於其周邊線路,並不構成主要問題。 這是量子計算於散熱問題上的第三重好處。  半導體發展迄今,摩爾定律的推進以及先進封裝的應用,持續增益晶片系統的效能。但由於單位時間內所處理的資料量益發龐大,而晶片的集積度亦同時大幅提高,散熱效率提升的需求更加迫切,從晶片、模組、系統各層次的散熱方式必須同時於設計時就開始考慮。可以考慮的空間包括線路設計、材料使用、封裝方式、外加的散熱機制(水冷式封裝就是這樣進場的!)等,乃至變更基礎的計算架構與原理。  廢熱處理已成計算設備各層級工程的共同瓶頸,我們需要散熱總動員!
全面散熱(一)
量子電腦、記憶體計算(in-memory computing)、矽光子、銅混合鍵合(copper hybrid bonding)、氮化鋁基板/晶圓、氮化矽基板/晶圓等,這些新技術有什麼共通點?  在進入詳細討論之前,我們先退一步看半導體過去的發展考慮。成本、效能、功耗等3個面向一直是半導體過去技術發展的主軸。成本以前靠製程微縮和良率提升,效能提升也靠微縮。功耗問題面向較為多樣化,節省能耗基本上靠降電壓、使用低電阻材料和設計優化等,處理廢熱的手段就更複雜了。  上述3個面向的進展需要有權衡的考慮—工程一向是綜合效能的權衡問題。資深的電腦使用者應該記得過去有一段時間的個人電腦中裝有風扇,也就是說當時要求CPU效能的大幅邁進,迫使散熱手段必須升級,外延到在系統層級另外加風扇氣冷的手段。之後CPU的線路設計業界有個默契,控制CPU發熱在單靠IC自然氣冷散熱就足以應付的程度,惱人的風扇聲就暫時從辦公桌上消失。  晶片中的能耗機制主要有2種:一種是電晶體開關的能耗。目前一個狀態切換(switch)的能耗大概是在飛焦耳(femto joule)的數量級;另外一種是焦耳熱(joule heat),就是電子流經金屬連線因為電阻所產生的廢熱。由於金屬連線的寬度在製程長年的微縮下變得愈來愈細,電阻不容易再下降,晶片的效能又愈來愈高、傳送的訊息愈來愈多。焦耳熱在目前的von Neumann計算架構下是熱耗散的主要源頭。  廢熱如果無法及時排出,可能會使晶片、系統失效甚或損毀。解決的源頭自然是從降低能量使用開始,然後才是排放廢熱的處理。  散熱的手段有3種:輻射、傳導和對流。輻射的功率正比於溫度的四次方,對於晶片這樣的低溫,輻射的散熱效率是遠遠不夠的,所以半導體或電子系統的散熱方法通常是傳導和對流的結合。  氮化鋁和氮化矽都是半導體業界所熟悉的材料,現在也用做散熱材料。氮化鋁的導熱係數高;氮化矽的導熱係數雖然稍低,但是其他機械特性如強度和斷裂韌性都很高,綜合性能最佳。這二者目前都已製成陶瓷基板/晶圓,用於功率模組的隔熱板、或做為外延(epitaxy)功率元件的晶圓基底。這是以高導熱率材料來散熱的辦法。如果需要的話,在基板/晶圓底下還可以用活性金屬釬焊法(Active Metal Brazing;AMB)加上一層銅,提高散熱效率。  更積極些的辦法是減少電源及訊號傳導所發出的焦耳熱。 矽光子是以光訊號來替代電訊號。理論上光訊號的傳導是不耗能的,自然也不會有廢熱,可以極大程度的避免焦耳熱的產生。這是為什麼矽光子預計在2025年會進入量產的主要動力之一—人工智慧誘發的大量計算,使得現有的電訊號傳送方式快要讓功耗和散熱難以負荷。 3D封裝中的銅混合鍵合讓數個異構(heterogeneous)晶片間原有的金屬連線,變成堆疊晶片上重分布層(Redistribution Layer;RDL)的直接對口銅金屬鍵合,大幅縮短晶片之間原先金屬連線的長度,所以焦耳熱是降低了。但是3D封裝也大幅提升晶片的集積度,使得原本已然艱難的散熱問題更加惡化。譬如原先用2.5D封裝的高頻寬記憶體(High Bandwidth Memory;HBM)與CPU/GPU,在改為3D封裝之後,居於最底層的邏輯晶片由於上層的記憶體晶片層數增加,勢必要處理更多的資料運算,因此散熱的負擔更加沉重,這就是進行式的挑戰。  記憶體計算的想法更為激進。如果電腦依照von Neumann架構運作,資料必須在CPU與記憶體間反覆傳遞,這是焦耳熱產生的最主要原因,那就乾脆把二者合併為一,就沒有兩個晶片間相互傳送的問題。這不算是原始創意,因為人腦就是這麼運作的。只是這方向的研究還在摸索中。
智慧農業與品茶之道
英國友人找我談智慧農業,詢問能否檢驗茶的品質,此難度雖高,但有機會以我們發展的物聯網技術AgriTalk完成其願望。AgriTalk已有能力完成水質品評,因為我們曾經建置智慧漁塭養殖,已經有分析水的基本知識與經驗,知道如何利用水底感測器來量測水的硬度與酸鹼值計算方式,可以進行茶水的分類品評。茶葉的分類也辦得到,在茶葉發酵與烘焙過程,AgriTalk能以感測器(溫溼度等)監測,再利用基因定序,可以品評6種不同發酵程度和不同烘焙程度的茶。真正的挑戰是茶的風味,仍然依靠專家的感官來品評,包括氣味、味道以及口感。現今電子鼻的感測準確度遠遜於常人,遑論專家。味覺感測器發展仍在初階,而口感更難定義。我們仍有很大努力空間。英國友人說他們愛喝茶已到了上癮程度。在冷戰時期,英國怕被蘇聯丟原子彈,蓋了避難室。接下來絞盡腦汁地想,如何將大量的茶葉擠進避難室,供應英國佬喝下午茶。在英國的國家檔案館內有一份1955年英國食品部的極機密文件,當中寫著,核戰後茶的供應將非常吃緊,每個人平均每周吃不到一盎司,嚴重影響英國人「身心健康」。為了反諷英國人的愛喝茶,弗萊明(Ian Lancaster Fleming,1908~1964)將筆下的007龐德形容成不愛喝茶的人。傳聞英國女王喜歡中國的綠茶。我曾為文提到英國女王與北埔「東方美人」茶的故事。發表之後,峨眉鄉林文秀先生特地告知我,最頂級的東方美人茶主要生產地是在北埔旁邊的峨眉鄉。北埔是茶葉集散地,峨眉的茶都送到北埔來販售,兩地陪襯,相得益彰。林先生有雄心壯志,希望在峨眉鄉塑造一個「東方美人街」,形成峨眉文化商圈,帶動地方建設。他帶我到峨眉鄉的幾個茶廠見識。其中徐耀良茶園及楊隆茶園的產品曾多次在全台灣的競賽中贏得冠軍。我品嘗2個茶園的東方美人茶之後,果然花香、果香、茶香滿溢,東方美人茶的茶樹在小綠葉蟬的叮咬下,防禦機制產生自然反應,散發出花果蜜香,成就了特殊風味,遠勝於過去我喝過的茶。我詢問其種植方式,他們都毫不藏私地與我分享。我綜合其說法,種茶之道無他,細心及耐心是重點。當中有些需要耐心的工作可以利用物聯網、大數據及人工智慧(AI)技術進行,我相信科技化後的東方美人茶必大有可觀。