透過神經網路加速器 助長嵌入式設備的AIoT效能

Imagination Technologies視覺及AI部門資深總監Andrew Grant。

伴隨AI熱潮延燒，加上Silicon密度不斷提升、運算成本持續下探，Imagination Technologies視覺及AI部門資深總監Andrew Grant指出有一場革命正進行，肇因於行動消費者的需求驟增，導致專用神經網路加速硬體逐步進入大眾市場；但他認為，「行動」並非神經網路與深學習所能擴展的唯一市場，而會無所不在地出現於人們日常生活。

「AIoT實現新世界，而背後重要的驅動力，即是低功耗嵌入式AI，只因它帶動邊緣運算興起。」Andrew Grant說，所謂嵌入式人工智慧，就是把AI演算法放進嵌入式設備；需要使用邊緣運算的場景愈來愈多，遍佈不同領域，譬如IoT領域的智慧城市、智慧建築應用，汽車領域的自動緊急煞車、車道偏離警示等應用，及工業機器人領域的瑕疵檢測、情境感知等應用。

綜觀AIoT應用題材，「智慧汽車」無疑是最受矚目的焦點，一旦透過AIoT串聯車、雲、城市基礎設施(監控攝影機)、V2X/V2V各方資訊，便可即時執行AI推論，完美實現先進駕駛輔助系統(ADAS)、自駕車等應用目標。Imagination已針對智慧汽車需求，發展出可部署於汽車駕駛艙的PowerVR視覺及AI應用方案，其內含GPU、CPU及神經網路，可直接滿足碰撞偵測、駕駛員監控、抬頭顯示器等功能需求。

Andrew Grant指出，從數位駕駛艙/HMI、ADAS推進到自駕車，意謂汽車對於確保安全性與可靠度的需要愈來愈高，相對來說，每輛車必須擁有的螢幕數量、IC數量及計算能力，同步呈現大幅飆升之勢，因而帶動GPU、神經網路加速器(NNA)的市場需求水漲船高，特別是NNA，可望為AI應用帶來莫大的可擴展性。

Andrew Grant說明，之所以需要採用NNA，係因神經網絡需要高頻寬、高計算力的支持，而專用的NNA架構正是完美解決方案，最能符合SoC設計中最重視的成本效益原則。以Imagination最新款的PowerVR Series3NX而論，其效能小至0.6 TOPS、大到160 TOPS，支持範圍甚廣且性能甚高，可望促使各種嵌入式設備大規模採用 AIoT。