品安科技
Advantechline
 

Imagination力推神經網路加速器 實現AIoT邊緣運算

Imagination業務開發資深總監Andrew Grant。

看好AI與IoT匯聚為邊緣裝置帶來的龐大商機,以PowerVR GPU在行動裝置市場佔有一席之地的IP業者Imagination科技公司,近來積極部署神經網路加速器(Neural Network Accelerator;NNA)產品,並強調以專用硬體的方式來執行AI神經網路運算,才能為汽車、工業、行動等各種智慧應用的邊緣裝置實現所需的功率、效能和成本。

Imagination業務開發資深總監Andrew Grant表示,AI已經有很長的發展歷史,但近年來受惠於晶片運算密度提升、運算成本降低、以及卷積神經網路(CNN)、迴圈神經網路(RNN)等技術的長足進展,帶動了AI應用的全新發展,並從行動裝置擴大到汽車、工業與機器人、智慧監控、汽車等各種市場。

特別是,伴隨著IoT的發展趨勢,AI可透過機器學習功能提升IoT裝置的價值,把收集到數據轉為有用的資訊,而IoT則可透過互連與資料交換為AI增加價值,兩者的互補將能發揮最大效益。而在頻寬、反應速度與隱私的考量下,把AI推論功能帶到嵌入式裝置,實現所謂的邊緣運算將是必然的趨勢。

Andrew Grant介紹了利用NNA實現高效能邊緣運算的使用案例。以智慧汽車為例,透過結合汽車上各種感測器與雷達,以及通訊基礎架構、雲端運算,可實現V2V或V2X應用,並逐步朝自動駕駛目標邁進。針對電子駕駛座艙(e-cockpit),PowerVR GPU和NNA已廣泛應用在道路標誌偵測、導航、車道偏離警示、環景影像、後視鏡替代等各種新功能中。

在智慧城市,AIoT裝置更將無所不在,從各種公共場所所需的臉部辨識、物件偵測、交通監控、可疑活動/人物監控、到智慧工廠運作管理、辦公室安全等各種應用正蓬勃發展,而其中,透過AIoT裝置來進行感測、資料收集、傳遞與分析是實現智慧城市願景的要件,這將能為現有以及新興的半導體業者帶來極大的商機。

所有這些使用案例的設計,從一開始就需要考慮安全性和隱私。Imagination的GPU可提供虛擬化(virtualization)功能,把GPU分割為不同優先等級的虛擬機(VM),確保執行重要汽車應用時的功能安全性。

相較於CPU、DSP等架構,Andrew Grant表示,GPU具備高度靈活性、標準化的運算API,並支援浮點與整數運算等優勢,而其NNA則是可配置的,能以特定領域的靈活性提供最低功耗,GPU與NNA的結合是把AI功能帶到邊緣裝置的最佳組合。因為,隨著客戶對於邊緣裝置上所需的AI功能已漸趨明確,須改以專用硬體架構來取代市場發展初期以軟體執行的方式,才能獲得最佳的效能、功率與成本。

目前,Imagination已為其PowerVR 3NX NNA產品線建立了完整的效能組合,從支援穿戴裝置的0.6 TOPS,一直到汽車與高階監控裝置所需的160 TOPS均已備齊,可支援包括Caffe、TensorFlow等常用神經網路的加速運算,以滿足多樣化AI應用的規格需求。此外,Imagination亦將強化與大學、合作夥伴的關係,致力於建立堅強的神經網路生態系統。

2019 COMPUTEX展期間,DIGITIMES將於5/30(四)假台北君悅酒店舉辦2019 COMPUTEX TAIPEI - 全球物聯網創新開發論壇,並由Imagination業務開發資深總監Andrew Grant領銜主講「Enabling the Edge: Neural Network Acceleration for smarter cities, cars and cameras」,如欲瞭解更多PowerVR GPU與NNA如何加速物聯網的廣泛應用與最新技術發展,歡迎即刻報名共創商機:https://www.digitimes.com.tw/seminar/DForum_20190530/

更多關鍵字報導: Imagination Technologies GPU運算 GPU AIoT