Microsoft
活動+
 

協同開源5G、AI到邊緣運算的開發設計能量

為了協助潛在用戶、目標使用者與合作夥伴能更加了解開放運算計畫(Open Computing Project;OCP)是如何為資料中心、邊緣及其他應用服務帶來效益,OCP基金會、台灣雲端物聯網產業協會 / OCPT、工研院及台北市電腦公會遂特別在台北國際電腦展期間假台灣國際會議中心共同舉辦第一屆年度OCP Taiwan Day。

從整個活動主打標題「通往5G、AI、邊緣運算之路」,便能清楚了解本盛會會探討多年來OCP基金會及其成員分別在5G、AI、邊緣運算(Edge Computing)的協同開發成果與開源貢獻。整個活動邀請了來自OCP基金會、工研院、微軟、神雲科技、台達電子、開放網路基金會(ONF)、Edgecore、Intel、緯穎科技及Yahoo JP等開源界巨頭與專家,其闡述的內容主題包羅萬象,從OCP計畫及子計畫內容成果介紹到AI邊緣運算,從智慧雲端的創新再到打造智慧、效率與綠能兼具的資料中心等議題。

效能、開放、擴展性與影響性兼具的開源貢獻

OCP社群總監Archna Haylock指出,開放運算計畫(Open Computing Project;OCP)社群共同推動許多計畫與子計畫,在網路計畫下包含了ONI、開放網路安裝環境(ONIE)、交換器抽象層介面(SAI)及雲端開放網路軟體設計架構(SONiC)等子計畫。在機架與電源計畫下包含了先進散熱解決方案(ACS)、電源機櫃互操作性(PSI)及Open Rack V3開放式機架等子計畫。在儲存計畫下則有歸檔儲存(Archival Storage)及Cloud HDD Fast Fail Read子計畫。在伺服器計畫下推動了PCIe 3.0 Mezzanine卡、OCP加速器基礎設施(OAI)及開放領域特定架構(ODSA)。

再者,在資料中心基礎設施、電信及硬體管理等計畫下分別有模組化資料中心(MDC)、openEDGE開放邊緣運算平台及開放機架管理控制器(OpenRMC)等子計畫。此外還包括了高效能運算(HPC)、開放系統韌體(OSF)及安全等計畫的推動。至於OCP計畫的生態系統則由會員、整合式解決方案商、供應商及通路商所組成。

長久以來,OCP社群持續成長,會員公司已達數百家,協同致力於10大OCP計畫的工程師也達數千人。緯穎科技資深副總兼技術長張順來強調指出,所有設計開源貢獻與工作坊都必須滿足4大OCP宗旨來自我驗證,亦即效能、開放性、可擴展性及影響性。

緯穎科技總經理暨執行長兼OCP台灣主席洪麗甯表示,OCP台灣(OCPT)成立於2013年5月23日,是OCP組織內首個地區性社群之一,並擔任推動台灣IT社群認知度的重要基石,其主要目標鎖定在協同產業在開放設計上的相關作業,同時協助教育並推動來自各產業對所有OCP計畫的付出與貢獻。

工研院OCP認證測試中心於2014年授權成立。2017年年中左右,OCP Certified認證改以OCP Accepted及OCP Inspired兩個認證接手,以擴大OCP的應用領域。2017年並成立OCP市集。

邊緣雲端成5G轉型基礎 AI邊緣運算成為開源開發重點

OCP軟體暨技術總監Rajeerv Sharma表示,到了2020年,連網裝置數將會激增至200億台,同時IoT將產生高達115 YB資料並擷取多達1,587 EB的資料。正是因為持續驚人成長的資料量帶動了邊緣雲端的需求,2020年支援在網路邊緣處理資料的IoT裝置數量將突破56億台。

邊緣運算就是在此需求下逐漸蔚為風潮。根據Gartner的定義,邊緣運算是分散式運算拓撲的一部分,其中資訊運算位於靠近邊緣處,裝置與使用者會從中產生或使用資訊。工研院資通所資料中心架構與雲端應用軟體組組長王啟龍表示,所以雲端運算與邊緣運算是互補的,絕非相互競爭或排斥的關係。

邊緣雲端已經成為5G轉型的一部分,根據Gartner研究報告指出,到了2020年,有3成已部署5G的服務供應商也會部署雲端運算服務,有5成的企業資料會在傳統資料中心或雲端之外建立及處理。再者,邊緣基礎架構虛擬化並將其運行在邊緣雲端處,將成為5G得以推展的基礎。

王啟龍指出,AI加上邊緣運算才是值得關注的商機所在,而AI邊緣運算的關鍵基本組件包括5G或高速有線 / 無線網路、邊緣資料中心運算,以及深度神經網路式影像處理應用。相關開發套件有主要用於推論的Intel OpenVINO,以及支援預測維護、異常偵測、機器視覺等廣泛應用的Google Edge TPU。針對AI邊緣運算適用的應用場域,大致包括智慧影像監控、智慧醫院中的無人影像式病人監控及AI式醫療影像分析,以及次世代智慧零售及智慧製造。

Intel資深首席工程師Murugasamy Nachimuthu表示,Intel開放了許多有益於邊緣運算發展的創新,包括遠端管理、開放韌體及降低韌體複雜性、韌體韌性及機架與電源管理等方面的創新。

從硬體延伸至韌體安全的開源設計 打造異質系統彈性啟動機制

台灣微軟技術長丁維揚指出,微軟在2014年加入OCP,隨即在2016年於OCP伺服器計畫下推出自家次世代機架級解決方案Olympus專案,透過社群協同開發,邊開放邊完成諸如從機箱、通用電源分配器到檔風板、加速器再到通用主機板等模組化硬體架構的設計開發,開啟了開源硬體開發的新模式。

2017年,微軟又發表了Olympus專案的延伸專案Cerberus,正式從開源硬體設計擴展到開源韌體安全乃至各種I/O元件,最終將信任網域根延伸至週邊零組件中,並對外開放了此擴增開源規格。目前所有Olympus專案主機板皆支援Cerberus功能。此外,Denali則是微軟於2018年釋出的專案,該專案改變了大規模快閃儲存的遊戲規則,並推出基於EDSFF標準的創新SSD設計。

2019最新發表的Zipline專案為微軟全新開源壓縮標準,其壓縮演算法同時適用於傳統資料集(如系統日誌)與「現代資料集」(例如IoT遙測資料),特別適用於網路資料處理、邊緣運算、工業物聯網(IIoT)及大數據分析等使用模型的開發之用。

當前系統韌體皆常駐在典型雲端機架上各伺服器節點中,但多半屬封閉式架構,所以不同矽晶供應商各有專屬版本的啟動流程與矽晶介面,很難滿足單一實作(Single Implementation)的要求,而且當前韌體開發模型無法跟得上多雲端硬體供應商的腳步,於是OCP OSF子計畫遂逐漸浮出枱面。

對此,Sharma表示,我們需要一個能提供各種異質系統彈性啟動機制的矽晶介面韌體模組(SIFM),透過SIFM,使用者便可透過Intel或AMD的協助而從Coreboot(前身即LinuxBIOS)來啟動Linux系統。使用者甚至可以藉由開源Linuxboot來啟動Windows系統。

OCP能為DC提供省電、省空間與快速部署效益

OCP正在著手設計並推廣機架與電源計畫,其中一個重點子計畫就是致力於機架管理的開放機架管理控制器(OpenRMC)。進一步而言,它是一台提供許多機架管理功能的專屬硬體,可兼顧運算管理與機架層級管理。該控制器支援資料封包介面,舉凡Redfish IT基礎設施管理標準、Swordfish資料中心儲存管理標準、I2C、WebGUI介面、IPMI管理介面及SSH協定等盡皆支援。

針對資料中心為何導入OCP的理由與重要性,神雲科技OCP技術與系統負責人Hancock Chang表示,首先OCP提供優異的電源使用效率(PUE),其次是低PUE值帶來的營運成本支出(OPEX)降低,其比傳統機架伺服器的OPEX低了35%,第三是OCP伺服器的樓面空間占用率比傳統機架伺服器低了50%,最後,OCP無需工具的設計機制加速了資料中心的部署。

神雲科技於2018年7月開源貢獻了OCP ESA規格,該開放標準可讓EIA標準機架與OCP解決方案搭配使用,而不需再重建傳統伺服器機房或資料中心,具備更佳電源節省、更少花費、更快導入、可互換性及可免除被特定供應商綁定等優點。

台達電技術總監Richard Chan就自家DC Falicity開發策略表示,目前該公司對DCIM管理需求,會從現有即時監控管理朝向透過機器學習建立容量過載預測機制,並支援PUE值建模與最佳化機制的策略方向發展。針對資本性支出(CAPEX)與OPEX降低需求,則擬定透過WBG裝置達到98% PSU及UPS效率,以及透過電池管理系統來改善整體DC效率等策略。在可用性與可靠度提升上,則從現有備援設計及預警系統,進展到藉由機器學習、大數據及主動維護而打造的預測性維護機制。再就快速部署而言,則由現有客製化POD貨櫃式資料中心進展到貨櫃式高密度電源模組。

Nachimuthu表示,Intel致力開發高密度雲端最佳化平台,並由Intel與浪潮集團開源貢獻給OCP社群。另外,Intel並發表基於預測電力的資料中心散熱解決方案,並計畫開源貢獻給OCP DC Facility計畫。

Intel並針對OSF計畫貢獻自家開發的平台執行時間機制(PRM)、多插槽韌體支援套件(FSP)及Coreboot。再者,Intel並推出採用NVMe over Fabrics(NVMe-of)底層應用架構的儲存硬體解構(Storage Disaggregation)功能。

緯穎科技副總經理暨技術長 張順來博士表示,緯穎兩相浸沒式液冷系統可支援高達一百台OCP TiogaPass伺服器主機板運作。整體系統設計不僅易於維護,且無須風扇、散熱裝置與額外機房空調。不但能達到較佳的PUE (Power Usage Effectiveness),相較於既有水冷技術,也可節省 40%電源花費。另外,整合48V與電源池(Power Pooling)技術,更可減少 93% 的12V電源傳輸損失。

OCP開源加持 帶動5G高品質持續在線網路應用與服務

開放網路基金會ONF研究員Charless Chan表示,ONF是屬於由營運商帶動推展的開放原始碼。其重要目標包括促使電信邊緣雲端能與開源軟體、分離式硬體及雲端科技相搭配。而CORD則是一個旗艦級綜合大型計畫,另外一個要點就是建置在CORD平台上的軟體定義網路化寬頻存取(SEBA)參考設計。

ONF並推展許多開源模組化元件,包括VOLTHA可將被動光纖網路(PON)抽象化成為可連接至SDN控制器的準乙太網路交換器。Trellis則管理多用途分支-主幹式交換結構(Leaf-spine Fabric)。次世代軟體定義網路(NG-SDN)促使創新服務能與可程式化管線及統一介面相搭配。

Edgecore董事長暨執行長George Tchaparian指出,隨著5G時代的到來,帶動了AI與邊緣運算的發展,於是乎巨大的頻寬需求被提前引爆。同時5G、AI及邊緣運算的採用也會驅動新的期望與需求:持續在線、高品質網路與服務。如此一來會提升營運效率並推動超低延遲與智慧應用發展。為了履行適當的CAPEX支出,讓適當運算基礎設施到位,並與像是開放性、白牌商業模式、硬體解構及自動化等正確的策略保持一致就變得非常重要。

張順來博士指出,透過5G便能為各種新應用上帶來OCP效益。OCP會與其他技術團體如Linux基金會及開放網路基金會協同合作以擴大影響力。其電信業者會擁抱開放性讓現成的設備商業化,而OCP也對3個5G所需的功能有益,亦即加強行動寬頻的eMBBB、支援大規模機器式通訊的mMTC及支援超可靠及低延遲通訊的URLLC。以OCP的OpenEDGE規格所開發的邊緣運算產品,可以擴大5G與邊緣運算用戶的生態系統與選擇性。

2015年,微軟發表專門用於軟體定義網路(SDN)軟體基礎架構的作業系統Azure Cloud Switch(ACS),該系統支援OCP SAI介面標準,SAI標準被作為實現ASIC可程式化設計的標準化C API開發工具。隔年,為了讓自家SDN軟體能夠輕鬆控管網路上所有硬體元件,微軟率先加入OCP SONiC,並隨即將這個網路交換器操作與管理的創新性突破對外開放原始碼。

SONiC構建在SAI上,網路營運商可藉此充份利用矽晶片、CPU、電源、連接埠密度、光纖網路與速度上的快速創新,同時保障了他們在跨越多平台之單一統合軟體解決方案的投資。SONiC是第一個能將一整個交換器軟體分解成許多容器化元件的解決方案,其並支援具備零停機時間的精緻細密度故障復原與服務運行中升級功能。

透過容器化機制,營運商可以花最小的心力來外掛新元件,以及第三方、專有或開源軟體,並因應特定情境需求來客製化SONiC。針對SONiC,微軟接下來的目標就是希望能在資料中心內部全部支援SONiC,並擴展至網路及廣域網路等角色的管理上。

OCP為Yahoo!JAPAN發揮可觀成本節省效益 完全打破廠商鎖定束縛

Yahoo!JAPAN系統管理事業群資料中心基礎架構工程師藤見和英表示,為了降低硬體建置成本與營運負擔,Yahoo!JAPAN決定在4年前開始導入OCP開放運算架構,隨著OCP市場與生態系統逐漸完備與成熟,使得OCP伺服器與機架的單位成本大降,該公司於是在兩年前左右開始大量導入,如今該公司共有3個資料中心共超過4,000個運算節點全面採用OCP開放運算架構。

在這四年當中,Yahoo!JAPAN不但累積了豐富且寶貴的開放運算架構與技術經驗,同時也為該公司帶來了可觀的成本節省效益,包括伺服器單元上節省了29%、機架成本也節省了18%,再加上OCP開放運算架構完全打破了廠商鎖定 (Vendor-Locking)的束縛,這使得公司在硬體週邊及零組件的採購上變得更加彈性。由於OCP伺服器與機架的部署需要較長的前置時間(Lead Time),再加上OCP機架尺寸比一般標準機架寬度更寬,所以導入上必須對機房空間配置進行慎審規劃,目前Yahoo!JAPAN的建置策略是先以混合式架構為主,未來再逐步擴大OCP開放運算架構的導入比重。

  •     按讚加入DIGITIMES智慧應用粉絲團