研華整合硬、軟、服務、生態系夥伴四方資源 助企業降低Edge AI導入門檻

為協助企業解決上述兩道難題，研華除了創新硬體設計，研發兼具高算力、低功耗與體積輕巧的硬體設備，近年來更積極投入軟體佈局，包括研發Edge AI SDK、Device On等軟體。研華

近年來企業導入AI應用時，考量到系統回應速度、資安、頻寬有限等因素，選擇採用邊緣運算架構，另一方面，ESG理念讓企業積極追求「更有效率使用資源、減少無謂浪費」的IT架構，這些都促使Edge AI發展更加快速。迎合Edge AI發展浪潮，研華積極投入軟體布局，並結合硬體設計、服務能量與生態圈夥伴資源，協助企業降低Edge AI應用導入門檻。

研華整合軟硬體資源，解決Edge AI兩大導入困境

「企業在導入Edge AI時通常會面臨兩大挑戰，第一是IT人力不足，難以自行開發AI應用，第二是硬體規格上的需求差異，」研華嵌入式物聯網平台事業群協理Joe Chen指出，Edge AI通常使用機台設備內的IPC做為邊緣運算伺服器，而機台設備對IPC的要求通常是體積輕巧、低功耗，但AI運算需要高算力，而高算力通常意昧著體積偏大，且會帶來高功耗與高熱，兩者對硬體設備的要求可說是背道而馳。

為協助企業解決上述兩道難題，研華除了創新硬體設計，研發兼具高算力、低功耗與體積輕巧的硬體設備，近年來更積極投入軟體布局，包括研發Edge AI SDK、Device On等軟體，整合Intel GETi與NVIDIA AI Enterprise（NVAIE）兩大晶片廠推出的開發工具包，及雲平台業者微軟的Azure OpenAI服務等，助力企業降低Edge AI應用的導入門檻。

涵蓋AI不同導入階段的軟體布局

從Edge AI應用導入過程來看，研華的軟體布局可以解決企業在各個不同階段可能遇到的問題。在前置作業階段，考量到企業常常困惑於：不知該準備多少運算資源來部署AI，透過研華Edge AI SDK能夠迅速開發評估AI應用，以採下拉式選單或按鈕點選的介面設計，企業只要根據AI應用類型及自身需求，在介面上拖拉點選，就能直覺且快速的進行設備環境評估，確保建置環境的資源，能夠滿足AI應用的效能要求。

舉例來說，企業可以選擇使用CPU或GPU來執行推論運算，亦或兩者同時運作，再選擇希望導入的AI應用類形，如物件辨識、人臉辨識等，Edge AI SDK就會據此進行運行效能（FPS）分析，讓企業知道AI應用在所選定設備環境上的運行效能，及在此運行狀態下，晶片的溫度及使用率等即時資訊。

進入模型訓練與開發階段，考量到企業IT人力有限，Edge AI SDK可以根據企業選定的設備與開發環境，提供研華整合並驗證過的完整安裝套件，包含OpenVINO、TensorRT等推論引擎開發工具，或是驅動程式與對應的作業系統版本等，省去企業自行摸索和設定的時間。

此外，研華與Intel GETi與NVAIE兩大開發工具的整合，不只能縮短訓練與開發AI模型所需要的時間，還能為企業帶來更大的加值效益。舉例來說，Inter GETi原本只專注在模型訓練上，但搭配研華Edge AI SDK及Device On軟體後，就能分別滿足企業在模型開發、部署上的需求。

又如，研華將NVIDIA AI Enterprise生態系統整合到其產品中，運用預訓練模型和開發平台、工具和服務，並攜手建立專業技術團隊，幫助企業打造定制化解決方案。最後在模型部署階段，透過DeviceOn提供的即時線上更新（OTA Update）與容器管理（Container Management）功能，可以快速部署AI模型，還能持續蒐集AI運行過程中的相關資料，再重新訓練模型，以確保AI模型的效度。

用服務為軟體加值，順隧客戶Edge AI導入之路

在企業導入AI應用的整個流程中，軟體來雖然可以解決很多問題，但還有更多問題需要靠人員的服務。對此，研華憑藉過去40年所累積的經驗和技術，及生態圈夥伴的龐大力量，有效串起各種不同軟體資源，並透過專業服務協助客戶更順利的發展Edge AI應用。目前，研華Edge AI解決方案已成功協助眾多產業運用AI提高營運效率與降低成本，如：零售通路業以AI優化顧客體驗；製造業以AI分析產線數據，提高生產良率與效率；醫療業以AI簡化醫護人員作業程序，提高醫療照護服務品質。未來，在百工百業加速部署AI應用時，研華將持續以「協助客戶快速進入AI應用」為目標，持續優化軟硬體解決方案，讓企業可以使用既有設備及資源邁入Edge AI時代，實現研華「智能地球推手」的企業願景。