全球領先系統製造商將推出NVIDIA人工智慧就緒伺服器

NVIDIA 人工智慧就緒伺服器。NVIDIA

NVIDIA日前宣布全球領先系統製造商將提供人工智慧就緒伺服器，支援今日另行發表的VMware Private AI Foundation with NVIDIA，幫助企業使用其專有業務資料自定和部署生成式AI應用程式。

NVIDIA人工智慧就緒伺服器將具備NVIDIA L40S GPU、NVIDIA BlueField-3 DPU和NVIDIA AI Enterprise軟體，使企業能夠微調生成式人工智慧基礎模型，並部署像是智慧聊天機器人、搜尋和摘要工具等生成式人工智慧的應用。這些伺服器還提供了NVIDIA加速的基礎設施和軟體，為VMware Private AI Foundation with NVIDIA提供動力。

由全球領先系統製造商戴爾科技集團、慧與科技和聯想推出搭載NVIDIA L40S GPUs的伺服器將於年底前上市，以加速企業的人工智慧應用。

NVIDIA創辦人暨執行長黃仁勳表示：「一個新的運算時代已經開始。各產業的企業都在競相採用生成式人工智慧。透過我們全球領先軟體和系統合作夥伴生態系統，我們將生成式人工智慧帶給全球的企業。」

NVIDIA人工智慧就緒伺服器對部署VMware Private AI Foundation with NVIDIA的企業來說，是一個理想的平台。

VMware執行長Raghu Raghuram表示：「生成式人工智慧正在加速數位轉型，企業需要一個完全整合的解決方案更安全的建構應用程式，從而推動業務發展。透過結合VMware、NVIDIA和我們伺服器製造夥伴的專業，企業能夠開發和部署具有資料隱私、安全和控制能力的人工智慧。」

推動企業生成式AI轉型

NVIDIA人工智慧就緒伺服器旨在為競相採用生成式 AI 進行廣泛應用的各產業提供全套的加速基礎設施和軟體，包括藥物發現、零售產品描述、智慧虛擬助理、製造模擬和欺詐檢測。

這些伺服器採用NVIDIA人工智慧平台操作系統 NVIDIA AI Enterprise，該軟體為準備就緒即可部署上線的企業提供超過100種框架、預訓練模型、工具套件和軟體的支援和安全性。這些框架、預訓練模型、工具包和軟體包括用於大型語言模型的NVIDIA NeMo、用於模擬的NVIDIA Modulus、用於資料科學的NVIDIA RAPIDS和用於生產人工智慧的NVIDIA Triton推論伺服器。

L40S GPU是專為處理具有數十億個參數的複雜人工智慧工作負載而設計，搭載第四代Tensor Core和FP8 Transformer Engine，與NVIDIA A100 Tensor Core GPU相比，可提供超過1.45 petaflops 的處理能力並可提升最高達1.7 倍的訓練效能。

對於像是智慧聊天機器人、助理、搜尋和摘要等生成式人工智慧應用，NVIDIA L40S的生成式人工智慧推論效能比NVIDIA A100 GPU 高出1.2倍。

整合NVIDIA BlueField DPU可透過加速、卸載和區隔虛擬化、網路、儲存、安全和其他雲原生人工智慧服務所帶來的龐大運算工作負載，進一步提高速度。

NVIDIA ConnectX-7 SmartNIC提供先進的硬體卸載和超低延遲，為資料密集型的生成式人工智慧工作負載提供一流的可擴充效能。

廣大的生態系統加速企業生成式人工智慧的部署

全球領先的電腦製造商正在打造NVIDIA人工智慧就緒伺服器，其中包括戴爾PowerEdge R760xa、慧與科技 VMware Private AI Foundation with NVIDIA用ProLiant Gen11伺服器以及聯想ThinkSystem SR675 V3。

戴爾科技集團董事長暨執行長Michael Dell表示：「生成式人工智慧是創新的催化劑，幫助解決世界上最緊迫的挑戰。戴爾使用NVIDIA 人工智慧就緒伺服器平台的生成式人工智慧解決方案，將帶來前所未有的生產力並徹底改變產業營運的方式，在人類發展進程上發揮關鍵角色。」

慧與科技總裁暨執行長Antonio Neri表示：「透過生成新的見解、設計和解決方案，生成式人工智慧有能力從資料中創造新的價值，是數位轉型的下一個發展機會。我們很高興與NVIDIA緊密合作，於企業調整和推論工作解決方案中使用其GPU和軟體，加速部署生成式人工智慧。」

聯想集團董事長暨執行長楊元慶表示：「企業渴望採用生成式人工智慧來推動智慧創新，聯想與NVIDIA和VMware合作將進一步擴大我們在生成式人工智慧領域的領導地位，並鞏固我們在客戶人工智慧之旅中提供協助的獨特定位。」

搭載L40S GPU和BlueField DPU 的NVIDIA AI Enterprise就緒伺服器將會在年底上市，雲端服務供應商預計於數月之後將提供執行個體。

欲瞭解更多資訊，請瀏覽官網。