智慧應用 影音
漢領國際
榮耀會員

NVIDIA揭露完整AI布局 COMPUTEX 2022秀出高強度技術能量

  • 賴品如台北

NVIDIA揭露完整AI布局,COMPUTEX 2022秀出高強度技術能量。NVIDIA
NVIDIA揭露完整AI布局,COMPUTEX 2022秀出高強度技術能量。NVIDIA

人工智慧(AI)技術快速精進,各項技術百花齊放,在「COMPUTEX 2022」主題演講中,NVIDIA六名部門主管針對企業級資料中心、數位孿生、高效能運算、機器人技術等眾多領域發表精彩演講。作為這波智慧化浪潮中的重要推手,NVIDIA的策略布局與趨勢觀點極具代表性,對近年來全力推動AI的台灣,更具有指標性。

推動資料中心轉型 滿足企業多元AI需求

NVIDIA加速運算部門副總裁Ian Buck首先點出全球產業環境正在改變,在這場全新變局中,企業的資料中心將逐漸轉型為「AI工廠」,AI滲入至企業內外的每次互動、每項產品中,提供客戶更佳的使用體驗,因應此一轉變,資料中心的軟硬體、晶片、基礎架構等每一層級都須重新設計。資料中心要轉型為「AI工廠」須具備四大關鍵要素,首先是CPU、GPU與DPU等三種異質運算單元的緊密合作,其次是擁有優質能源效率,第三是管理開發工作流程與執行推論模型的工具,最後是可全年無休的AI部署平台。

NVIDIA致力於多元創新,已針對現代AI資料中心需求推出多項解決方案,提供最先進的伺服器和機架,例如甫於3月GTC技術大會推出、被視為全球AI基礎架構新引擎的先進晶片H100,就可大幅提升GPU效能,第四代NVLink則可讓GPU以每秒900 GB的速度,讓各伺服器節點頻寬進行快速傳輸,並可擴充多達256個GPU,解決龐大的作業負載。

硬體工程產品部資深副總裁Brian Kelleher接著介紹NVIDIA全新資料中心藍圖中CPU、GPU與DPU等三種晶片的規劃布局。他指出該公司晶片是以一年著重於x86架構,另一年著重於Arm架構的步調依序推出,因此每年都有令人期待的產品,2022年3月推出的Grace CPU超級晶片就是其一。Grace是NVIDIA是專為「AI工廠資料中心」而設計,NVIDIA的Grace CPUHopper GPU兩款晶片可透過NVLink-C2C互連技術相互連結,該技術兼具低功耗和高速通訊特色,傳輸速度可達900GB/s,是CPU的15倍。

未來NVIDIA的CPU、GPU、DPU、網路介面卡(NIC)、系統單晶片(SoC)都將整合NVLink技術,藉此提升資料中心的運作效能。Brian Kelleher透露,NVIDIA將支援2022年初宣布的UCIe標準開發作業,除了有助NVIDIA開拓新市場外,亦滿足企業用戶的多元運算需求。

為使Grace CPU順利落地,NVIDIA推出完整的參考設計,並針對不同的大規模作業負載場景搭配對應的高效能平台,包括適用於雲端遊戲的CGX、可應用於數位孿生和Omniverse設計的OVX、滿足高效能運算和超級運算需求的HGX與專為AI打造的全新HGX架構。NVIDIA加速運算部門產品管理總監Ying Yin Shih特別說明HGX架構採用Grace-Hopper CPU-GPU超級晶片模組,是業界最強大的AI訓練推論平台,此外也提供相應的PCB參考設計,該兩者是專為OEM 2U高密度伺服器機殼設計,OEM廠商可運用現有的系統架構,修改參考設計以縮短產品開發時程,NVIDIA合作夥伴將成為Grace GPU的第一波供應商,將於2023年上半開始供貨。

最佳網路解決方案 全方位提升資料中心效能

提升伺服器效能後,「AI工廠資料中心」下一步是打造資料中心網路,NVIDIA技術長Michael Kagan表示,NVIDIA網路解決方案包含的BlueField DPU資料處理器、InfiniBand Quantum交換器,和乙太網路Spectrum交換器三種關鍵元件,協助系統業者與終端企業用戶建構高效能伺服器網路。

其中的InfiniBand Quantum網路平台是專為AI和高效能運算作業負載而設計,也是雲端原生超級電腦的基礎,兼具裸機效能與雲端儲存空間便利性兩項特色。Spectrum平台可協助企業與雲端資料中心建構快速且具效率的乙太網路傳輸平台。至於BlueField DPU是NVIDIA基礎架構平台核心元件,負責執行資料中心作業系統的運算平台。Michael Kagan特別提到,DPU是跨租戶效能與資料中心規模安全性隔離等服務架構中不可或缺的部分,近期NVIDIA推出整合高效能運算核心的400 Gb/s BlueField-3 DPU,提供對網路、安全和高度儲存空間有需求的企業可完整程式控制的資料路徑加速功能。

Ian Buck接著指出,AI要順利解決挑戰,必須有全方位的解決方案,NVIDIA提供多種可讓創新硬體確實發揮作用的軟體,NVIDIA AI Enterprise就是其中廣受市場好評的軟體工具。他表示企業可將其視為AI的作業系統,從RAPIDS的資料準備和分析、TensorFlow的模型訓練到Triton的即時推論,均可透過此軟體完成系統開發,此外NVIDIA AI Enterprise可在雲端、資料中心到邊緣的頂尖企業平台上執行,協助企業和組織啟動AI專案,並讓專案跟上其發展軌道。此外,NVIDIA建立架構協助企業解決特定挑戰,例如RivaMerlinMetropolis等工具滿足語音、推薦系統與視覺不同需求。

提供完整機器人平台 持續提供極致遊戲體驗

機器人向來是AI的重點應用,尤其是這幾年機器人開始加速落地應用於製造、物流、農業、醫療等場域中,嵌入式與邊緣運算部門副總裁Deepu Talla在演講中提到,完整的機器人系統必須經AI訓練、模擬、打造實體機器人及部署機器人等四大關鍵支柱,NVIDIA專為機器人技術應用在這四大區塊均有對應工具。

NVIDIA Isaac的全新合成資料生成(SDG)工作流程可提供具有完整標記資料的大規模資料集,預先訓練模型可大幅縮短模型建立時間。結合高擬真度繪圖技術和精準物理效果的NVIDIA Omniverse,不僅可模擬真實世界,也提供建立數位孿生的環境。目前已有超過6千家公司將邊緣和機器人應用程式的標準AI平台NVIDIA Jetson,運用於生產作業中。專為AMR設計的Nova Orin擁有最先進的運算和感測器參考設計。NVIDIA Fleet Command則提供安全可靠的車隊管理功能。最後是NVIDIA的核心「遊戲」。GeForce 部門資深副總裁Jeff Fisher指出,NVIDIA過去20年來推出多代遊戲GPU架構,並持續推動此產業發展。最新的NVIDIA RTX技術導入即時光線追蹤和AI,再次引領繪圖技術的變革。

NVIDIA採用Ampere架構GeForce RTX是全球最快的GPU,Ampere以第二代RT核心為主,提供即時光線追蹤劇院級繪圖技術,AI渲染技術NVIDIA DLSS則採用第三代Tensor核心,為玩家打造絕佳遊戲體驗,另外NVIDIA Reflex,可提供最低延遲和最佳的反應速度。在遊戲直播部分,RTX平台內建的NVIDIA進階影片編碼器,是專為高畫質影片串流和最高遊戲效能設計,此外RTX平台也持續透過Game Ready和Studio驅動程式,最佳化影像效果。電競NB近年成為市場焦點,NVIDIA的Max-Q技術成功將GeForceNB轉型為輕薄且具高效能的設備,2022年推出的第四代Max-Q,將帶來全新創新內容和更高能源效率。除此之外,NVIDIA StudioOmniverseAudio2Emotion等平台都將在次世代遊戲設計中扮演關鍵角色,帶領此一產業走向新高峰。

觀察全球產業走向,不斷突破的AI技術已帶起大量充滿創意的新應用,長期站在趨勢浪尖上的NVIDIA,往往搶先一步洞察市場,在需求發生前先行備妥完善的工具與平台,協助各領域使用者精準快速的完成布局,從而掌握AI市場的龐大商機。歡迎觀看NVIDIA COMPUTEX 2022主題演講重播,進一步了解更多資訊。