Arm全新終端產品運算子系統 推動AI PC與AI手機之實現 智慧應用 影音
DForum1018
ST Microsite

Arm全新終端產品運算子系統 推動AI PC與AI手機之實現

  • 李佳玲台北

隨著AI PC和AI智慧型手機的興起,意味著AI所驅動的強大運算能力和更佳效率已不再僅限於用在資料中心。在此趨勢下,各種終端裝置都將進一步支援AI功能,帶來全新的使用者體驗。為因應此市場需求,Arm日前發表全新的終端產品運算子系統(CSS for Client),憑藉著效能升級、製程以及軟體最佳化等多項優勢,可望加速AI PC和AI手機的實現,帶動龐大商機。

首次為CPU和GPU提供實體實作

Arm終端產品事業部產品管理副總經理 James McNiven。Arm

Arm終端產品事業部產品管理副總經理 James McNiven。Arm

近年來,Arm制定了運算子系統(CSS)策略,透過提供預先整合與驗證的運算單元,以協助客戶縮短產品開發週期。截至目前,已針對基礎設施發表過CSS解決方案,針對車用領域的Arm CSS,預期於2025年上市供應。

而此次針對終端產品推出的CSS,其特殊之處在於,這是Arm首次以實體實作的形式提供CPU和GPU。Arm 終端產品事業部產品管理副總經理 James McNiven表示,「透過與晶圓製造合作夥伴合作,我們最佳化了3nm製程上的量產就緒實體實作,以提供更佳的效能與效率。」

他強調,藉由此舉,Arm將能為客戶帶來更高的價值,特別是高階手機設計,客戶對加速上市時程的需求更為殷切。對此,Arm可提供GDSII檔案(僅限於3nm製程),客戶可將其直接整合於佈局設計之中,將能更快推出新產品。

兼顧擴展性 提升系統級效能

James McNiven指出,隨著終端裝置對AI效能有更高的要求,特別是針對多媒體、遊戲等應用,如何協助開發人員更輕鬆實現AI PC/AI手機所需的效能與效率,是我們的重要課題。

「對Arm來說,我們思考AI已有很長一段時間,2021年發表的Armv9架構,便是專為效能和AI所設計,過去幾年來也已針對向量加速、機器學習等功能提升其運算能力。」

這次推出的CSS for Client便是以2023年推出的Armv9.2架構為基礎,結合最新的Cortex-X925 CPU、Immotalis-G925 GPU,以及Corelink系統互連和系統記憶體管理單元(SMMU),打造一個兼具效能和效率的運算平台,協助開發人員更快地在Arm架構上開發AI體驗。

針對高階AI手機需求,Cortex-X925可提供高達的41% AI效能提升,有助於大幅增強生成式AI的反應速度。此外,Immotalis-G925也進一步推動了光線追蹤技術在行動裝置上的實現,不僅在手遊應用程式方面增加37%效能,也推升了34%的AI推論效能。

除了高階手機,舉凡數位電視、遊戲機、智慧手錶等各種消費產品,都將受惠於Arm終端產品運算子系統帶來的效能與擴展性。

James McNiven指出,「我們提供了三種不同的CPU微架構和GPU選項,客戶可以靈活運用,開發各種裝置。除了Cortex-X925和Immotalis-G925的效能升級之外,事實上,透過微架構改進、製程和實體IP最佳化等重大革新,我們的Cortex-A725相較於Cortex-A720也實現了35%的能效提升,這對更廣泛的消費應用來說,也是非常重要的!」

發表全新Kleidi軟體 為CPU帶來最佳AI效能

Arm並未把NPU納入其CSS方案中,對此James McNiven解釋說,「目前有約七成的第三方Android機器學習工作負載都是在CPU上執行,對我們來說,如何充分發揮CPU的AI運算效能是更重要的議題。另一方面,以最新的生成式AI為例,目前LLM(大型語言模型)仍持續進展中,若以NPU方式建置將難以因應新的模型而更改,所以CPU處理是最具彈性的。」

有鑑於此,Arm這次也一併發表了全新的Arm Kleidi 軟體,其中包括AI工作負載的KleidiAI和針對電腦視覺應用的 KleidiCV。James McNiven表示,Arm Kleidi是小型、最佳化的運算核心,可整合到各種執行AI或電腦視覺的裝置,並支援NEON、SVE2和SME2等指令集,以確保開發人員在部署到任何一種Arm CPU時,都能獲得最佳效能。

「以KleidiCV為例,當我們把它整合至在支援 NEON和SVE2的裝置上執行OpenCV時,速度提升了75%,這是非常顯著的效能升級。我們2024年還將與OpenCV.ai合作,使Android開發人員更容易將OpenCV納入其專案中,並從KleidiCV的效能提升中獲益。」

強化與台灣產業合作 AI產品商機可期

隨著CSS for Client的推出,也為Arm推進耕耘許久的Windows on Arm市場帶來了更多的優勢。James McNiven表示,「對WoA生態系統來說,2023年也是我們豐收的一年。現在已有愈來愈多的基本應用程式成為Arm原生程式,例如Chrome以及Office、Dropbox、Zoom和Adobe套件等,因此大部分使用者都將能執行原生應用程式。」

「我們預期2025年將能看到WoA有顯著進展,隨著生成式AI應用的快速發展,未來包括照片、視訊、遊戲等應用都將能打造出更豐富的個人化體驗。」

隨著AI商機爆發,AI PC和AI手機將能為台灣產業帶來新的成長契機,James McNiven強調,Arm非常重視與台灣業者的夥伴關係,將在新的AI世代中建立更緊密的合作。「我們看到了業者試圖把AI功能帶到包括數位電視等各種終端裝置中,台灣科技產業正展現出活躍的設計動能,我們也樂見未來將有更多的創新產品出現。」

「對Arm來說,我們將致力於提供AI運算的基礎平台,並投資於建構更高效能的終端產品運算子系統。未來,我們還將增加更多的AI功能和安全性,帶動生態系統的進一步創新。」

Arm終端產品運算子系統(CSS for Client;CSS)是由AI驅動消費者體驗的全新運算平台,為新型人工智慧工作負載提供基礎運算,推動全新的智慧型及沉浸式體驗,橫跨AI PC至智慧型手機等裝置。請點此瞭解基於Arm架構上的行動運算未來