瞄準垂直領域剛性需求 加速催生Edge AI應用服務

大約十年前，雲端運算概念開始風行，企業紛紛擁抱這個集中式運算架構，充份運用強大算力，執行AI建模等需要消耗資源的工作，加速滿足一些進階應用目標。儘管雲端運算蘊含許多優勢，但也不乏缺點，特別是企業若將資料傳送到雲端進行計算，不僅需要承擔吃重的傳輸費用，也無可避免承擔較高的延遲(Latency)，偏偏有愈來愈多應用講求即時反應、對延遲極為敏感。

因此分散式運算概念逐漸興起，訴求資源最佳化配置，有些在雲端、有些在邊緣，彼此間達到充份搭配與協調，進而降低地雲之間資料傳輸、也避免對後台造成繁重負擔。

研華IoT嵌入式平台事業群副總經理張達文指出，綜觀以往上傳雲端的數據，當中高達八成為影像，現在這個部份可透過邊緣端智能設備直接進行推論與判斷，此即為Edge AI；意謂今後不需繼續仰賴雲端處理大小事，僅傳輸必要資訊上雲端即可，大幅降低資料傳輸量，而雲的任務便是學習與分析，至於數據的預處理與邏輯執行的工作，邊緣端可勝任無虞。

張達文表示，現階段研華已推出完整Edge AI方案，包括「VEGA」系列AI加速卡、「AIR」系列AI推論系統以及「EIS」系列邊緣智能系統；另為了協助企業快速透過其邊緣裝置結合運用研華Edge AI產品、進行深度學習推論，還提供Edge AI Suite軟體套件，內含Intel的OpenVINO工具包（兼具優化推論效能、跨CPU/VPU/GPU優化工作負載、提供逾20款預訓練模型等多重價值），及來自第三方產業夥伴(CyberLink)的人臉辨識、車牌辨識等AI SDK。

截至目前，研華以Edge AI解決方案為基礎，已經與SI夥伴共同瞄準各領域用戶的痛點，藉由這些剛性需求聯手孕育許多應用。

以Edge AI為基底，催生瑕疵檢測、智慧電梯等多重應用

張達文說，談到現今的Edge AI應用夥伴，主要分為兩大類。一類是SI，通常會直接引進研華的加速模組或推論系統，再搭配OpenVINO執行系統整合，利用臉部辨識或車牌辨識等預訓練模型為基礎，快速打造最終的應用模型、快速落地到場域。

例如為工具機賦予線上執行瑕疵檢測的能力，一旦發現不良品，旋即將訊息傳達至機械手臂控制器，由機械手臂將該物品移出產線。此外研華與與電梯製造業者完成概念驗證(POC)，由AI辨識電梯訪客、並學習他平時造訪的樓層路徑，爾後只要此人進電梯，便由系統自動按下樓層鍵，減少接觸按鈕機會、連帶降低COVID-19(新冠肺炎)感染機率。

同樣基於防疫，研華與SI夥伴合作開發一套適用校園的系統，可架設於每一間班級教室，負責定時辨識所有學生的臉部並測量體溫。此外針對智慧零售場域，在研華及SI協助下，業主可利用攝影機結合臉部辨識模組，快速掌握所有消費者圖譜(包含每個人的性別、年齡…等等)，以利執行精準行銷。

另一類夥伴為醫療設備製造商，比方說製作醫用超音波設備的業者，過去他們主要向研華購置嵌入式CPU模組，如今為因應AI影像判斷的發展需求，需要在產品設計上預先納入FPGA或GPU，以便預留AI加速功能、為AI鋪路；所以將採購標的從CPU板轉為「CPU＋FPGA/GPU」，大幅提升產品在應用上的未來性

張達文透露，展望下一步，研華與SI夥伴將聯手催生更多應用，舉凡長途貨運車駕駛的行為監控，乃至餐廰的「前台中控」(幫助前台服務員精確判斷何時上菜、收盤子、招呼客人等等，給予最貼心服務)，都是可行的發展方向。

2020年11月19~21日研華嵌入式物聯網夥伴峰會，將首次以線上論壇的方式舉辦，並以邊緣智慧、AI產業應用、嵌入式物聯網為核心議題。 攜手全球頂尖產 業夥伴共同探討AIoT新時代、新思路與最佳實踐。我們將規劃九大主題論壇，並邀請30位以上產官學夥伴專講，例如Intel、微軟，NXP、思謀以及中國信通院，物聯網智庫等產業專家，各位將從論壇中學習到AIOT 科技趨勢並透過夥伴的分享，找到發展未來事業的新點子，詳情報名請洽官網。