AI應用從雲端向邊緣運算延伸 智慧終端裝置的躍昇

CEVA台灣區總經理于長艷(Barbara Yu)。

台灣當前半導體設計產業的兩大驅動力來自人工智慧(Artificial Intelligence)與物聯網(IoT)相關的技術，尤其是AI的發展，更是動見觀瞻，市場研究單位預測全球的AI產值從2016到2025年可望從6.4億美元一路竄升成長到386億美元，其同時也觀察到影像辨識、股市演算法交易與智慧醫療三大領域發展快速，成績斐然，更激勵全球各科技大廠紛紛進一步探詢AI發展的各種可能性，而AI發展與應用所帶來的影響，也將改變市場現有的格局，更將翻轉目前人們所所認知的生活方式。

CEVA一年一度在亞洲舉辦的技術盛會CEVA TECHNOLOGY SYMPOSIUM 2017研討會於10月27日在新竹招開，這是接續深圳與上海兩地而召開的技術饗宴，2017年已經是第11次主辦，廣受半導體、晶片設計廠商的好評，今年的重心環繞在IoT與AI上，尤其在邊緣運算(Edge Computing)的發展上緊緊捉住大家的眼光。

過去在各種終端裝置與嵌入式系統上蒐集到的大量數據，需要上傳到雲端資料中心進行分析的趨勢，無法滿足低延遲應用所要求快速回應的效率，透過DSP技術的快速發展，直接在邊緣裝置上進行資料辨識與即時分析的應用，得到長足的發展契機，透過CEVA的研討會所揭櫫DSP在AI與IoT的新形態的應用，為接續幾年來的邊緣運算(Edge Computing)技術的爆發式成長揭開序幕。

CEVA台灣區總經理于長艷(Barbara Yu)開場致詞指出，從AI運用4個最重要的場域，包括從雲端機房、通訊技術、感測器偵測與資料分析，CEVA除了雲端機房的領域較少著墨之外，其餘3者的應用透過CEVA引以自豪的DSP技術所展現的高效能、低功率消耗的優勢，形成重要的使用範例與產品問世，這次研討會的主題不斷呼應AI從雲端服務的場域中，朝向邊緣運算(Edge Computing)的領域逐漸靠攏，扮演創新的要角，AI從雲端服務出發，現在要超越雲端服務的應用，展現更巨大的影響力。

CEVA技術研討會探討DSP技術的未來發展應用趨勢與方向，更看到AI由雲端資料中心落地之後，向邊緣運算的智慧嵌入式裝置移轉的過程，運用神經網路技術打造不同領域的機器學習應用，AI的應用，透過新型智慧型裝置與電腦視覺的興起，毫無疑問成為半導體與電子產業的主要成長引擎。

依據市調機構IHS Market預測，全球影像監控設備的市場規模將於2020年達到197億美元，透過DSP技術所發展的電腦視覺應用，打造包含人臉辨識、超高解析度與場景偵測技術，使機器學習與視覺技術，讓各式各樣攝影裝置的創新設計，可以在更多實務上的場域，大展身手。 

邊緣運算的嵌入式系統推動AI革命的多面向發展

CEVA市場行銷副總裁Ran Soffer針對AI的議題巧妙地提出一個圖書館與資料中心的類比，過去我們將知識存放在圖書館中，人類從圖書館獲取知識後，轉換成實際生活的創新，未來人類的知識將會存在雲端資料中心，而智慧終端裝置取得AI智慧之後，將造福人類日常生活的實際運作，往往我們今天的白日夢幻想，將是明日的實際場景，AI應用的面相將更千變萬化。

AI技術進入邊緣運算裝置的趨勢，已經在市面上看到重要的使用典範，除了大家耳熟能詳的無人空拍機、自動輔助駕駛系統(ADAS)與自駕車發展之外，新一波發生於智慧型手機的人臉辨識系統的誕生，聲勢浩大席捲大眾的關注，勢必成為另一個使用典範。

智慧型手機與自駕車系統是AI向邊緣運算延伸的兩經典應用，其展現出掌握最靠進資料蒐集起點裝置所具備的優勢，Soffer對AI邊緣運算的趨勢聚焦於以下幾個原因：(1)低延遲性的應用需求擴增，因為感測器所蒐集的即時資料，驅使系統做出快速回應；(2)廣泛部署的需要，為了達成任何地點、任何時間的系統運作的要求；(3)個人隱私的保障，我們不希望電子裝置把我們的隱私資料傳出去到雲端，(4)資安防護的需要，資料上傳到雲端容易造成資料外洩的曝險狀況；(5)雲端資料傳輸成本高，尤其是大量以視訊為主的資料量，都會造成現有的3G、4G以及未來的5G網路的負擔，成本與效益的衝擊高。

Soffer強調，AI進入邊緣運算領域的另一個重要的需求，就是省電效能的衝擊，他舉iPhone上市的十周年的產品演進的歷程為例，這十年來，處理器效能成長了120倍，但是平均的電池容量才增加區區4%而已，所以省電的要求對邊緣運算裝置的挑戰更為嚴苛，尤其對無法配備大容量電池的穿戴式裝置，以及部分以電池驅動的智慧家庭產品，省電的要求比運算效能更為顯著。

這也一舉激勵以聲音處理為主的AI應用(Sound A.I.)，需要包括語音指令啟動(Voice trigger and command)，音源偵測、Always-On等技術，除了良好的聲音收訊之外，或是做為聽障者溝通工具(NLP for communication)的使用，甚至將來還要能夠辨認出聲音的主角。

由於指紋辨識的技術逐漸由人臉身分辨識(Face ID)所取代，這個趨勢實在太夯，可預期在接下來的幾個月，更多的智慧型手機將會大舉整合AI的技術，促成更大規模的AI加速晶片與神經網路引擎的迅速發展，期盼在智慧型手機本身就能進行更複雜的密集運算任務，甚至進一步考量加上執行AI推論任務，將神經網路模型訓練所獲得的效益加以最大化，Soffer大膽預言說: 接下來幾年之內，每一個具備攝影鏡頭的裝置都會配屬擁有DSP與神經網路晶片的應用。

DSP Group的語音辨識與聲音處理晶片  瞄準IoT與行動裝置應用

DSP Group成立已經超過30年，累積至今，已經有20億個配備聲音處理器的電子裝置出貨，聚焦於主要的領域包含智慧家庭、智慧型手機與智慧辦公室等關鍵應用，尤其是使用在行動裝置上包括聲音啟動、語言查詢、語音指令、雙向語音傳輸與對講、語音辨識等使用範例與應用，對於以優雅造型、智慧功能及擁有傑出使用者體驗取勝的智慧型裝置而言，塑造重要的新賣點。

其語音辨識與聲音處理晶片具備Always-On Voice、降噪、回音消除與超低功率消耗的功能，消費者除了在不同使用情境下，用語音辨識的設計，開啟獨特的功能之外，在車內使用配備語音辨識功能的智慧型手機，進行包括查詢地圖、導航問路或是語音轉文字做為簡訊傳輸等功能，成為一時的新寵，有研究機構指出，利用語音辨識來問路是語音辨識最膾炙人口的主流應用，佔有40%的使用率。

隨著智慧家庭應用配合智慧音響裝置大賣之後，引起更多的聲音啟動與控制的應用進入家庭，DSP Group解決方案除了具備低功率消耗的設計，對於依靠電池驅動或是AC電源的智慧裝置都有著墨，其使用CEVA TeakLite-410的DSP核心，在語音啟動時只消耗低於 0.2mA的用電，而語音偵測模式下則保持在0.5mA以下的消耗量，對電池的功率負擔做了精密的計算。

此外，由於愈來愈多的裝置使用多麥克風或麥克風矩陣的設計，來涵蓋大部分家中空間的覆蓋，所以往往為了改善多麥克風裝置的收音效果，許多使用波束成形(Beamforming) 技術與聲學設計(Acoustic Design)，可以提供降低喇叭震動與音源混合而影響語音辨識效能的設計，利用降低噪音，改善語音指令接收與回應等功能，加強回音消除與遠距收音等功能，讓DSP引擎的功能發揮的淋漓盡致，使為智慧家庭的應用提供另一個改善使用者體驗的機會。

物聯網與AI議題  型塑DSP的主流應用  生態系統扮演關鍵要角

CEVA技術研討會除了早上主題演講之外，下午的兩個技術分場，分別是IoT與AI議題，透過CEVA的DSP技術，探討電子裝置的連網功能，以及AI智慧功能，主要呈現在影像與視覺、聲音偵測與自然語言辨識、通訊網路互連與人工智慧等幾個實際的應用上，會場並邀請包括CEVA的技術合作夥伴一起做專題演講，會場週邊另設有互動展示攤位區，展示合作夥伴利用CEVA平台所開發的產品與應用。

產業界整合過去長期發展的電腦視覺(Computer Vision)技術，搭配AI與神經網路技術，不斷的提升辨識的準確率，超過人類的能力，今天視訊攝影機與配備多鏡頭的行動裝置更是無處不在，汽車不只有外面的鏡頭重要，車內的鏡頭用以掃描駕駛人臉部表情以判斷精神集中狀況與預警的功能，一樣關係著大眾行車安全。

目前先進的AI邊緣運算使用範例，已經整合既有的電腦視覺技術，加上神經網路、第三方的演算法，以及用以增快即時性反應時間的AI加速晶片組，利用CEVA-XM4與系列的引擎，全面發揮專業視覺演算法性能，推出成功的解決方案，這些解決方案無法只單靠一家廠商獨立完成，從不同市場的需求，整合生態系統的力量，找出最佳的產品組合，才能搶佔重要的市場，所以生態系統與技術夥伴間的合作是一切的起點。

這次一起共襄盛舉的技術夥伴邀請到芯鼎科技(iCatch)、Arcsoft、Brodmann17、LG Electronics、INUITIVE、燦芯半導體(Brite Semiconductor)、Evomotion、Cyberon、Huachang與Alango，讓與會者對於參展廠商所展示AI應用與軟、硬體解決方案，以及相關的SoC解決方案，提供不同的選擇，讓CEVA的DSP技術持續往愈來愈多元化的應用領域進擊。

由於AI技術仍在持續演進之中，這些重要的AI邊緣運算嵌入式裝置，所要面對的難題與挑戰各有千秋，同時需要搭配不同的解決方案，不只是DSP核心，還需要考量神經網路的使用，根據即時性的需求，甚至需要搭配AI加速器晶片，當然演算法與軟體的搭配也缺一不可。 

為了讓生態系統可以完美的整合，CEVA的DSP矽智財(Silicon Intellectual Property)與整合軟體技術，利用引以為傲的系統基礎架構(Infrastructure)所打造的技術核心，針對視訊、語音、通訊、資料分析與AI應用的場域，無論是無線連接通訊晶片、感測器處理器，以及AI資料處理所需要的記憶體頻寬與獨特的DSP引擎技術。

今天使用CEVA技術的晶片已經安裝在琳瑯滿目的智慧型裝置中，有超過90%以上的智慧型手機都有CEVA技術隱身其中，每年有超過1億顆的晶片搭載CEVA的DSP引擎，透過CEVA在DSP核心多年的努力，並成功的協助世界各地的晶片設計廠商，得以加速產品開發進程，縮短產品上市的時間，擴張市場的勝利成果。 

整合AI與IoT技術勢必在接下來的幾年之中繼續扮演重要角色，誠如DIGITIMES研究中心主任黃逸平(Eric Huang)的簡報中所言，只要你的想像力無窮，你的創新就會與時俱進，數位經濟成長力道將遠大於實體經濟上的成長，所以數位的生態系統勢必成為全球經濟未來的成長所繫之重要趨勢，畢竟自然資源有時盡，你的想像無窮時。

附檔：CEVA連接產品事業部銷售和市場經理Franz Dugand。