中文简体版   English   星期五 ,7月 19日, 2019 (台北)
登入  申請試用  MY DIGITIMES231
 
Reserch
活動+

AI與車用晶片複雜程度更勝以往 記憶體類型選擇和配置難度大幅增加

  • 劉慧蘭

汽車和AI應用增加了資料處理的複雜性,晶片設計人員必須在成本、效能和功耗間做取捨。法新社

人工智慧(AI)、車用晶片的複雜程度更勝以往,邊緣處理比重增加,記憶體的選擇、設計、使用模式及配置難度也越來越高。

據Semiconductor Engineering報導,為了處理汽車和AI應用產生的大量資料,晶片架構越趨複雜,在資料於晶片、元件和系統之間移動以及處理優先處理順序不明確的情況下,設計團隊只能在合併和共享記憶體之間取得平衡以降低成本,或增加更多不同類型的記憶體來提升效能、降低功耗。

因此出現各種不同的方法,包括將小型記憶體分散在晶片或封裝周圍的鄰近記憶體運算(near-memory computing),以及將資料移動最小化的記憶體內運算(in-memory computing)。這些方法的目的都是透過減少負載和儲存量來解決記憶體瓶頸,同時節省能源。

內建SRAM和DRAM記憶體仍是當前市場主流。DRAM密度高、使用電容儲存結構相對簡單,又具有低延遲、高效能和接近無限次存取的耐用度,功耗也比較低。SRAM速度非常快,但較為昂貴且密度有限。這些不同的需求會影響記憶體的類型、數量以及內建或外接記憶體的選擇。

功耗也是記憶體的關鍵問題,不同記憶體類型和配置也會影響功耗。例如在7奈米製程的記憶體上移動資料因導線的RC延遲,需要更高的功率,並可能產生熱能,破壞訊號的完整性。

記憶體對AI很重要,AI又是所有新技術的要角。但不只有AI晶片,還有晶片內部的AI應用,都會影響記憶體的使用方式。如要實現超快的速度和最低功耗,最好的辦法就是把所有元件放在同一個晶片上,但有時會受到空間的限制。

這也說明了,為什麼資料中心和訓練應用AI晶片的體積比許多部署在終端裝置執行推論應用的其他類型晶片更大。另一種方法則是將部分記憶體移到晶片外,並透過設計提高傳輸量及縮短與記憶體的距離,或是限制外接記憶體的資料流。

外接記憶體的競賽,基本上以DRAM-GDDR和HBM為主。從工程和製造角度來看,GDDR比較像DDR和LPDDR等其他類型的DRAM,可以放在一個標準的印刷電路板上並使用類似的製程。

HBM是比較新的技術,牽涉到堆疊和矽中介層,每個HBM堆疊都有上千個連接,因此需要高密度的互連,這遠遠超過PCB的處理能力。HBM追求最高效能和最佳的電源效率,但成本更高,需要更多的工程時間和技術。GDDR的互連沒這麼多,但會影響訊號的完整性。

明導國際(Mentor)IP部門總監Farzad Zarrinfar表示,功率、效能和面積(PPA)都很重要,但主要還是和應用有關。以攜帶型的應用為例,功率非常重要,而功率也分為動態和靜態兩部分,如果需要大量運算,那麼動態功率就非常重要;如果是穿戴式設計,則更重視靜態/漏電功率。電動車在意電池的續航力,因此功耗也是關鍵因素。

儘管有大量革命性的技術和創新架構,記憶體仍是所有設計的核心。如何決定現有記憶體的優先順序、共享、位置以及用途,獲得最佳系統效能是件知易行難的事。