CEVA拓展人工智慧用於邊緣運算的產品組合

2018年CEVA技術論壇，CEVA市場行銷副總裁Moshe Sheier接受採訪實況。

人工智慧(AI)持續演化的動能驚人，讓智慧型手機、視訊監控、機器人、汽車、醫療與工業領域都產生驚天動地的轉變，直接影響到包括商業、經濟與社會的各個層面，原本在雲端機房的智慧型功能正逐步轉移到邊緣運算的裝置中，這些在雲端資料中心採用大量資料來做為神經網路訓練所獲得的結果，變成AI推論，移轉到嵌入式系統所組成的邊緣裝置中，做為智慧應用的重要延伸，尤其在影像與聲音辨識的功能上，在固定與侷限的應用領域中，甚至比正常人更能勝任日復一日的單調性的工作，而創造許多令人矚目的智慧服務。
 
AI晶片的誕生既是這個趨勢發展的重要一步，傳統上使用包括圖形處理器(GPU)、可程式邏輯閘陣列(FPGA)和數位訊號處理器(DSP)核心都可以組合而做AI晶片，而嵌入式系統上的AI晶片發展以DSP走得更快，CEVA是全球最大的經營DSP授權的廠商，其產品線也從DSP平台為主的IP組合中，擴增到人工智慧(AI)處理器的IP產品線。

CEVA全球營運目前有320人的團隊，持續經營綿密的客戶關係與提供完整的客戶服務，全球前十大半導體晶片製造商有九家使用CEVA相關的IP核心來設計各式各樣的獨特的晶片，全球每年超過10億顆內含CEVA的DSP核心晶片出貨與上市，無論是電腦視覺、聲音處理、物聯網(IoT)連網與5G/LTE等無線傳輸通訊系統所需要的訊號處理的晶片，都可以找到CEVA的DSP核心的足跡。

CEVA看重AI相關的晶片在接下來的四年中高達59%的年複合成長率(CAGR)的成長大勢，並有50%的智慧型手機在接下來的幾年內會大量使用AI晶片，消息不斷的5G智慧型手機也將在2019年的下半年上市，面對大量的AI在邊緣運算上的爆發式的成長，廣泛應用在通訊、連網、多媒體與物聯網等應用的解決方案中。

CEVA於2018年針對產品組合重新做出規劃，以迎接AI晶片的大幅度成長，拜CEVA 年度的2018亞洲技術研討會之賜，在會場訪問CEVA市場行銷副總裁Moshe Sheier先生，對邊緣運算與AI應用兩股重要的趨勢相遇所產生的新發展，以及產業動態，提供他的觀察。

五大產品組合迎接AI在邊緣運算的成長大趨勢

AI朝邊緣運算節點拓展主要是因為低延遲(low latency)、低功率消耗(low power)、低成本(low cost)、高隱私權保密(high privacy)和高可靠性(high reliability)的殷切需求，持續席捲所有的新裝置的發展所觸發。

CEVA做為全球最大的DSP授權供應商，需要快速滿足晶片客戶的需求，於是在新產品線上投注大量的資源，所以2018年對CEVA而言是忙碌與充實的一年，一舉將產品線拓展成五大主要的分類，分別是邊緣運算AI (AI at the Edge)、視覺(Vision)、語音(Sound)、行動通訊(Cellular)和網路連接(Connectivity)，其中邊緣運算AI產品線的上市，更是創CEVA成立超過25年來第一次發行非單純DSP的產品，以回應市場上對邊緣運算的AI產品的需求。
 

由於AI晶片還是一個新興的領域，使用GPU、CPU或是TPU的晶片所打造的智慧型系統都各擅勝場，CEVA這次所發表的五大產品線著重於發揮邊緣裝置使用AI技術的最大潛能，提供晶片廠商對下一世代的智慧型的嵌入式系統，完成一塊最重要的技術拼圖。

除了邊緣運算的發展之外，DSP核心對IoT裝置連網很倚賴的藍牙5.0與Wi-Fi 6(802.11ax的新改名稱)的連網晶片，都產生重要的使用範例，對於新興的5G世代的基地台與網通設備使用的晶片，DSP更是不可或缺的重要訊號處理的技術核心。

鑒於全球數十億計的視訊監控攝影機與各式各樣的影像辨識裝置在接下來的5年內的成長，對使用由CEVA的XM系列的DSP核心所設計的AI晶片來擴大產品的效能，有高度的期待，在聲音辨識或是聲音指令啟動的嵌入式裝置的需求也不遑多讓，以這次在CEVA亞洲技術研討會邀請的AbiliSense公司的產品為例，其能夠辨識包括嬰兒哭聲在內的特殊意義的聲音，這些愈來愈有趣的聲音辨識與語音處理的功能，Sheier表示，讓智慧型嵌入式裝置可以愈來愈像人類一樣，甚至漸漸比人類更擅長辨識某些特定的聲音，這些新興的應用都讓CEVA的DSP授權的生意走的更茁壯與更成功。

CEVA邊緣運算AI產品線粉墨豋場

AI新產品線由NeuPro處理器IP與軟體的組合所整合而成，專為邊緣運算的整合而設計，具備強大的市場機會，由NeuPro所打造的AI晶片具備強大的NPU(Neural Processor Unit)運算效能，範圍從入門級的2 TOPS到最高級配置的12.5 TOPS的產品效能，CEVA的更重要的整合就是CDNN(CEVA Deep Neural Network)的軟體產品，因為不同的晶片廠商需要強調客製化與差異化的晶片能力，而透過神經網路軟體架構的支援與加值，是重要的手段。

CDNN軟體來有效支援不同神經網路軟體架構，降低進入AI領域時存在於架構和軟體方面的進入門檻，尋求以簡化的方式來快速掌握深度神經網路技術所提供的功能，目前一共支援包括TensorFlow、Caffee與ONNX(Open Neural Network Exchange)格式的三種常用的AI軟體架構，對於啟動的智慧型嵌入式系統的設計，取得相當重要的地位。

由於在邊緣裝置上的AI功能並不會使用類似於資料中心中採用大量資料來訓練神經網路，比較多的需求會著重在AI推論的執行，所以CEVA的CDNN可以將浮點運算的資料轉化成固定16位元格式的資料，除了維持AI推論所需要的精確度之外，還可以具備低功率消耗的重要的訴求，這對嵌入式系統是一個重要的成功關鍵。

對於部分的AI用在嵌入式系統中，有一個需求是AI再訓練的功能，例如在已經訓練完畢的AI推論的結果，可以透過CEVA的AI再訓練功能，由嵌入式系統上執行，強化對部分的語音指令的辨識能力，這個作法對於需要額外提供本地方言(如台語)等語音指令的訓練與辨識的用途，提供解決的辦法，有助於本地化的智慧醫療裝置，改善使用者使用情境。

IoT的市場隨著AI與5G技術的發展更臻於活潑與多樣化，從影像辨識到聲音辨識的應用中，不斷發現新的創意與發掘新的智慧型應用，這些不同的應用隨著使用者體驗的改善而逐漸茁壯，有些應用礙於使用者對影像資訊外流而有安全疑慮時，反而改成在語音辨識方面的應用，受到更多的青睞，原本需要用影像感測器的場域，利用麥克風收音與辨識，反而以成本與功率消耗上的優勢而紛紛勝出。

所以聲音辨識甚至是使用固定的聲音指令的辨識功能，處理固定字串的語音指令的用途愈來愈寬廣，除了微處理器之外，也刺激高階的MCU(微控制器)等半導體解決方案也得以獲得商機，而受到關注，畢竟全功能的AI方案，牽涉到個人隱私的影像與照片的處理，消費者或多或少在資安議題上，仍會陷入長考與疑慮。

CEVA憑藉多年在DSP核心的耕耘，並一舉跨入NPU的核心的產品線，透過長久積累的成功經驗，並且在口碑、品質與技術的創新能力上，信譽卓著，獲得台灣客戶的青睞與高度讚揚，由於邊緣運算與AI的結合已經是成為一個主流的趨勢。

從CEVA合作的技術夥伴與生態系統所看到的這些眾多的使用範例，得到許多佐證，而且還高速不斷向前演進與變化，邊緣運算上的應用隨著更多的AI晶片的誕生，用途愈臻豐富，當智慧家庭中的視訊監控系統，隨著可以辨識家人與非家人的功能發生之後，對於像智慧門鎖等關鍵的家用裝置，也透過視覺感測器的配置之後，而有全新的定位，而類似於科幻電影的生活場景，其實離我們今天實際的現場好像並不遙遠，AI的未來充滿的驚奇，讓我們拭目以待。