智慧應用 影音
Microchip
20211008_DForum工業物聯網與智慧機械

掌握資料經濟時代新契機 美光推動記憶體與儲存技術創新

  • 李佳玲台北

AI與5G匯聚帶動的數位革命,使數據成為驅動經濟發展的關鍵要素。因此,對各類運算架構來說,除了要求更高運算能力,記憶體和儲存元件亦扮演著比以往更重要的角色。

在2021年的台北國際電腦展COMPUTEX展會中,美光科技發表了一系列基於其領先176層NAND和1α DRAM製程技術的新產品;同時美光總裁暨執行長Sanjay Mehrotra及資深副總裁暨運算與網路事業部總經理Raj Hazra亦發表演說,闡述將如何透過記憶體與儲存創新,推動AI的擴大應用,以實現從資料中心到智慧終端的無限可能性。立即線上觀看2021 COMPUTEX美光CEO精彩影片發表

美光總裁暨執行長Sanjay Mehrotra。

發揮資料經濟的潛力

Sanjay Mehrotra在以「資料經濟(data economy)的創新引領數據新生活」為題的專題演講中指出,由於技術創新助力企業加速取得數據背後的洞見與意義,促進了資料經濟發展。根據麥肯錫研究報告,到2030年,先進數據分析技術將為全球經濟增加13兆美元的產值,而這些價值的創造取決於我們是否有能力利用龐大資料,更快地制定出更佳決策。

他指出,「數據推動了前所未有的創新速度,而AI和5G是實現資料經濟的關鍵,這兩項技術的結合能為後疫情時代帶來新的展望與應用商機。」

首先,隨著AI技術的快速發展,到2025年,預計75%的企業會把AI導入其營運流程中,為各行各業帶來全面改變,而AI的普及應用也刺激了運算平台變革,才能更有效、更快速地進行數據分析工作。至於5G,由於具備超高頻寬、大規模連結、以及低延遲特性,將帶動智慧終端網路的實現,有助於數據的即時存取與處理。

「所有資料的運用,都需透過記憶體和儲存技術來達成,這也是美光所專注的領域」,Sanjay Mehrotra強調。「此成長與轉型意味著對技術創新的需求,以為從資料中心、到終端網路,以及智慧終端裝置提供全新的解決方案。」

全球首創的176層NAND

結合先進製程技術、產品創新以及建構生態系統等三項策略,美光展現了引領市場的強烈企圖心。在演講中,Mehrotra宣布,第一款採用全球首創176層NAND的PCIe Gen4 SSD產品已正式量產,將能以更高效能、更低功耗與精巧尺寸,支援PC市場對於數據密集工作負載的需求。

此外,美光繼2021年1月發表導入1α製程的DRAM產品,本月已開始大量出貨使用1α製程的LPDDR4x DRAM。美光亦在第三代AMD EPYC資料中心平台上完成1α製程 DDR4的驗證,目前兩款產品皆已在包含台中A3新廠的美光台灣先進DRAM廠區量產中。

在汽車市場方面,美光則是宣布車用的128GB及256GB容量的96層NAND快閃記憶體已開始送樣,兩者皆是其UFS 3.1介面NAND新產品組合。

實現AI創新的關鍵

在業界朝AI無所不在的目標邁進前,還需克服哪些挑戰?美光資深副總裁暨運算與網路事業部總經理Raj Hazra在「記憶體是AI創新的核心」為題的演講以及美光的COMPUTEX展前記者會中,說明了記憶體創新對擴展AI應用的重要性。

他指出,傳統伺服器架構是以CPU為基礎所設計的。隨著AI、HPC、大數據分析等數據密集工作負載的快速成長,業界企圖透過增加更多CPU核心或是異質運算核心來因應此挑戰。但當記憶體創新的腳步無法跟上運算負載量的成長,將成為運算架構的瓶頸。

因此,記憶體和儲存已成為平台創新的主要環節。這也是為什麼,當業界在制定下一代DRAM標準─DDR5時,首次以資料中心,而不是終端裝置的需求為主要考量。

DDR5是過去10年來的重大平台創新,可為記憶體的頻寬與容量,以及資料中心能力帶來大幅提升。美光已於一年前啟動DDR5技術應用支援計畫(Technology Enablement Program;TEP),協助生態系統朝DDR5平台整合移轉。目前已有超過100家企業、250位設計及技術領袖參與計畫。

記憶體的未來

除了DDR5之外,Raj Hazra表示,為了支援AI訓練與高效能運算的工作負載,就運算架構來看,我們應對既有以CPU為中心的平台設計方式做一更新,透過提供突破性的記憶體容量,才能滿足資料中心的應用需求。

對此,美光已於日前宣布支援Compute Express Link(CXL)標準,它的目標是使業者能夠透過直接、高速介面,建置擴展的記憶體容量,以作為CPU、GPU和其他加速器等不同運算單元的可共享資源,並根據工作負載需求即時配置。

「記憶體必須與運算單元更接近,才能加速存取並提升效能。透過導入新的開放標準CXL,業界將朝完全組合式(composable)資料中心架構邁進。將能夠連接CPU、GPU和加速器、儲存、記憶體和網路。」

特別是,隨著AI模型日益龐大,不論是AI的垂直擴展(scaling up)或水平擴展(scaling out),都面臨了功耗、成本、延遲、容量等各種挑戰。

透過建置新的記憶體層級(memory hierarchy),包含近端記憶體(near memory)如高頻寬的封裝中直接連接記憶體(in-package direct attached memory)以及遠端記憶體(far memory)如CXL連接記憶體,將能大幅提升數據熱區的處理效能。

Raj Hazra表示,透過此架構革新,將能實現未來的組合式資料中心,以最佳化基礎架構,因應從AI訓練、到模擬和建模,到資料庫管理和分析的各種資料密集工作負載。美光目前正積極開發CXL相關產品,將以完備的記憶體與儲存產品組合,滿足AI運算的各種需求。