AMD Solutions Day 展現台灣產業生態系統雄厚基礎 智慧應用 影音
EVmember
member

AMD Solutions Day 展現台灣產業生態系統雄厚基礎

  • 孫昌華台北

AMD與27家軟硬體合作夥伴共同打造的解決方案。AMD
AMD與27家軟硬體合作夥伴共同打造的解決方案。AMD

AMD於美國時間6月13日於舊金山舉辦資料中心與人工智慧技術發表會,再次成為全球媒體關注焦點,緊接著AMD在6月下旬於台北舉辦AMD Solutions Day,除了呼應AMD董事長暨執行長蘇姿丰博士在舊金山所分享的內容,並進一步邀集了台灣重要的合作夥伴,如戴爾、慧與科技與微軟等一線主管,就多雲創新、ESG與AI技術等議題進行分享,同時現場由27家軟硬體合作夥伴展示與AMD共同打造的解決方案,更彰顯了AMD近年來在台灣產業生態系所打下的深厚基礎。

此次AMD Solutions Day先由AMD資料中心解決方案事業群台灣區資深業務副總經理林建誠作開場演說。他談到,近期的AI話題在5月底的COMPUTEX達到一個高峰,而蘇姿丰博士在AMD資料中心與人工智慧技術發表會所分享的內容也與AI有相當密切的關係。

事實上,AMD近期的產品策略以高性能運算與自行調適運算等技術範疇為基礎,擴展到資料中心、企業級應用、AI、5G基礎建設與智慧終端等,而以AMD自有的產品線來說,就有EPYC處理器、網通所需要的ALVEO與Pensando平台,以及AI領域所不可或缺的Instinct加速器與Versal系列的FPGA產品等,AMD相信這些技術將能為未來的人類生活帶來貢獻。

第4代AMD EPYC處理器性能、效率繳出全面性領先成績單

在伺服器處理器方面,第4代AMD EPYC處理器(代號為Genoa),在目前業界的性能或是能源效率的表現,大致上都領先友商的處理器8490H有一定的距離,不論是JAVA、VMmark 3.1.1等評測指標,至少都有1.7倍以上的領先差距。而在能源效率的表現更是領先達1.8倍、AI運算效能則有1.9倍左右。

以核心數量來看,AMD EPYC 9654處理器搭載多達96個Zen 4核心,相較於友商的8490H的60核心,效能明顯提升,所以也帶來了整體資料中心建置成本的有效降低。以2,000個VM(虛擬機器)來說,若採用8490H處理器所需要用到的伺服器數量高達17台左右,但改採EPYC 9654處理器,在相同的伺服器系統設計架構下,能將數量降至11台,而這也能進一步降低資料中心的面積使用,對於近年來相當火紅的ESG議題來說,在碳排上能做到明顯的控制。

至於近期十分重要的議題:雲端原生應用,AMD EPYC 9754處理器(代號為Bergamo)搭載多達128個Zen 4c核心,與友商的8490H處理器相較,在各項數據表現上也都有1.6倍甚至是2.6倍的效能輸出,而在IT容器密度也有2.1倍左右的差距,Java每瓦的運作效率也是高出2倍之多。

而在技術運算(Technical Computing)方面,AMD的優勢更加明顯,不論是從CAD/CAM,亦或是EDA相關工具的,搭載AMD 3D V-Cache技術的第4代AMD EPYC處理器有著贏過友商8490H處理器高達2.2倍甚至是接近3倍左右的性能距離。除了硬體本身的性能表現外,相關的EDA與軟體業者所提供的軟體方案都已透過AMD的處理器加以優化,進而展現這樣的成績。

目前第4代AMD EPYC處理器分別以不同的代號對應不同應用場景,此次舊金山所發布的處理器代號為Bergamo與Genoa-X,分別對應雲端原生與技術運算領域,將陸續被客戶採用。AMD也將在下半年發布Siena處理器,定位將鎖定電信設備與邊緣運算應用。除AMD處理器的多核心效能在各項數據的表現上贏過主要競爭對手外,AMD從第3代EPYC處理器開始日益增強,也使第4代EPYC處理器的單核心效能與能源效率表現更加出色。

2024年預計將發布搭載Zen 5 CPU架構的EPYC處理器,其相關的接腳基本上都與第4代EPYC處理器相容,所以客戶在採用上,只要處理基本的微調工作,就能立即享受到性能升級所帶來的好處。此外,過往Ryzen處理器聚焦在個人電腦應用,現在也開始進一步擴展到伺服器市場,此次大會也有採用Ryzen處理器的伺服器攤位展示。

AMD強調AI軟硬體方案已全數到位

在AI方面,目前看起來似乎市場上只有一家公司的解決方案,但就AMD的做法上來看,可以從三個方向切入,第一是AMD的解決方案相當完整,有CPU、GPU與FPGA等產品線,其次是軟體層是以開放概念為主,第三則是整個生態系統基本上已經就位,只要客戶在AI的Framework是選擇業界普遍所常見的項目,像是PyTorch、TensorFlow與ONNX等,在AMD的ROCm平台上,其系統開發都可以輕易地做到最佳化。

除了硬體產品已經領先競爭對手已有一段距離外,在軟體相關套件與開發工具上,AMD也已經發展了有六、七年左右的時間,以ROCm來說,目前已經推出第五代的版本。AI GPU方面,AMD的戰略以現今所推出的MI300X產品線為基礎,客戶未來可以用更少的GPU來完成大型語言模型的處理工作,在費用亦或是在成本上都能獲得有效的控制。

嵌入式AI 亦為關鍵,AMD強調完整硬體平台優勢

此次Solutions Day的另一重點,則是AMD全球副總裁暨嵌入式解決方案事業群總經理Rajneesh Gaur特地來台,分享AMD在嵌入式與邊緣運算等應用如何導入AI技術。Rajneesh表示,從鉅觀的角度來看,AI被導入生活場景的應用發展,其實才剛剛起步,但也毫無疑問的,我們也看到了ChatGPT的崛起。

但若進一步在各類應用實現AI的導入,以醫療領域為例,如果像是內窺鏡或手術機器人,就必須要有即時的高性能推論運算表現,但與此同時,雲端的AI模型訓練也要有適當的調整,方能有最完善的搭配,而AMD本身就具備完整的解決方案與技術,可以推動從雲端到邊緣的各種部署工作。

而在嵌入式應用,Rajneesh也談及相當多的案例,像是5G基礎建設中,便可以利用嵌入式處理器以AI運算的方式來處理波束成形的工作,或是處理網路資料的性能上能夠再加以優化,而這可以透過AMD的ZenDNN平台上加以實現。

車用方面,自然就得也提到AMD旗下的FPGA產品線,Rajneesh表示,單以自駕車與ADAS來說,FPGA產品線能夠靈活地適應與處理來自於車輛外圍不同的感測訊號,並且進行不同物件的偵測,最後再透過車輛中央的處理器進行資訊匯流,來進行即時的駕駛控制,而這樣的概念,也能在無人機應用實現。

戴爾聚焦數位科技應用,IT將朝個人化服務發展

而在一線合作夥伴的演講中,台灣戴爾科技集團總經理廖仁祥則是以「善用數據科技、多雲創新 實踐永續未來」為題,分享戴爾在數據科技近期發展的觀察。戴爾在2022年針對全球6,600個客戶進行調查,橫跨45個國家、14種不同產業別,最核心的問題是,公司在創新時遇到的主要挑戰為何?經過調查後,爾發現有幾個挑戰正在發生。在過去,雲端可能為企業帶來很多好處,但相對的,在發展的過程中,企業也看到了不少的問題,所以進入到下一個階段,已經不再是公有雲、私有雲甚至是混合雲的討論,而是多雲的概念如何被落實與應用。

慧與科技以完整軟硬體方案搭配顧問服務協助客戶數位轉型

慧與科技(HPE)企業產品事業群總經理蕭舜華則是從ESG的角度來分享慧與科技的主要策略與觀察。慧與科技主要是以GreenLake IT as a Service的概念,為客戶提供完整解決方案的供應商,基本上已經跳脫出傳統的硬體銷售思維。在作法上,因應客戶在投入數位轉型亦或是ESG議題上,在基礎建設上的資源投入與控制該如何做到有效且合理的資源分配,其實已經是客戶在實務上所會面臨的課題。

也因此,慧與科技以混合雲的基本概念,搭配顧問專家服務的方式,像是哪些要放雲端,哪些資源要放在當地的機房這類的議題,協助客戶在資源分配與管理上做到最佳化。

AI提升工作效率表現,微軟將引進AMD最新GPU產品線

微軟亞洲區HPC/AI解決方案副總經理馮立偉則是就微軟在各項產業在導入AI的實務上分享其經驗,現在AI的討論,已經不是在探討要不要導入的問題,而是它能為你的企業帶來獲利與提升競爭力。而微軟最引以為豪的OPEN AI,背後所仰賴的就是極為龐大的算力資源,但重點在於,OPEN AI能因應你的客製化需求,而ChatGPT4.0也準備就位,為一般人帶來更多的便利性。

Copilot可以根據使用者過去E-mail的來往紀錄、文件、簡報檔等,協助匯整出所需要的會議結論或是重要事項,所以使用者可以更加聚焦有生產力的工作事項上,而非花時間在整理這些文件資料與提煉出重要的會議結論。此外,馮立偉也提及與AMD之間的合作,微軟部分的AI Copilot服務上,其底層所採用的硬體是AMD Instinct MI250X加速器,相較於目前主要的GPU,Instinct MI250X加速器的效能相當出色,未來也會採用Instinct MI300系列來支援微軟的服務,供客戶來使用。

此次AMD Solutions Day活動,除了有豐富的議程與合作夥伴的演講內容外,現場亦有許多合作夥伴的技術展示,像是美超微(Supermicro)展示出搭載AMD EPYC 7003處理器與Instinct MI200加速器的伺服器產品,亦有許多OEM業者如UltrArmor、CASWELL(瑞祺電通)、Accton(智邦)等展示出諸多邊緣運算與網通設備產品,整體而言,產品種類相當多元,顯示出AMD伺服器相關產品線在台灣產業生態圈已有相當厚實的基礎。