研華
活動+

AI與物聯網趨勢並起 翻轉嵌入式設計思維

  • DIGITIMES企劃
嵌入式裝置市場在物聯網的設計趨勢。

有別於一般泛用型的PC架構,嵌入式系統的定義,是為特定用途所設計的IT系統,近年來嵌入式在特定領域的發展加速,與過去相較,無論是深度或廣度都有長足進展,主要原因除了IT技術本身的精進外,應用產業不斷拓展出新的功能需求也是主因,尤其是應用面,在市場競爭日益激烈的態勢下,無論是消費性或非消費性設備供應商,都必須善用IT技術力量,強化本身競爭力,因此嵌入式系統的市場需求與日俱增,而在需求與供給雙方相互拉抬下,嵌入式產業的發展來到史上高峰,未來幾年在AI與物聯網的驅動下,預計將持續成長。

商機後勢可期 廠商卡位AI市場

AI是2017年IT產業的焦點議題,多數研究機構與產業都認為AI不但會與嵌入式系統整合,而且在部分應用中,具有AI功能的嵌入式設備將串聯成物聯網架構成為AIoT系統,而AIoT系統中,不僅上層的雲端平台會具有運算能力,終端的嵌入式設備,甚是設備中的元件,也都會有一定程度的AI設計,進而形成龐大商機,也因此目前各大晶片商都早已開始投入AI晶片的布局。

AI晶片在嵌入式系統的應用相當廣,從數據中心、終端設備(智慧手機、平板電腦、穿戴式裝置...等)、垂直特定產業(製造、交通、醫療...等),都將是目標市場。投入的廠商也眾多,以架構來看,浮點運算、同步並行運算非常適用於人工智慧的深度學習神經網絡,因此具有這些特點的GPU,也成為這波AI熱潮的重要運算架構。

但在此趨勢中CPU也未缺席,尤其是Intel在2017年中分別推出獨立AI加速器Movidius Neural Compute Stick與Myriad X視覺處理器(Vision Processing Unit;VPU),前者內建了Myriad 2視覺運算單元,在1瓦電力下可完成每秒1,000億次浮點運算,後者則是全球第一個配備神經運算引擎(Neural Compute Engine)的系統單晶片,可用於加速產品端的深度學習推理。

除了兩家處理器大廠,Google也在2017年推出客製化的ASIC AI晶片TPU,專為機器學習設計,Google的TPU主要用於改善搜尋結果的相關性與提高Google街景服務地圖和導航功能正確度,由於TPU是專為特定用途設計的特殊規格邏輯IC,只執行單一工作,所以速度更快,但缺點是成本較高。

除了GPU、CPU外,其他處理架構如FPGA、DSP等廠商,也都積極投入AI市場,而就發展來看,仍未看出那一類運算架構會成為市場主流,伺服器的應用目前仍以CPU為主,不過現在NVIDIA也開始跨入發展,至於終端嵌入式設備市場,無論是體積、功耗、價格,其市場需求都比伺服器更嚴苛,因此難度會更高,不同的應用會需要不同運算架構,因此未來處理器在嵌入式終端市場的應用將更為多元,不會出現一家寡占的狀況。

加速物聯網佈建 元件走向智慧化

除了AI之外,物聯網也會是未來嵌入式系統的重要發展,物聯網概念在IT產業已將近10年,雖未如當初研究機構出現爆發性成長,不過已陸續有產業導入,在物聯網架構中,嵌入式設備主要應用於底層,像是零售業的POS、醫療業的手持式平板電腦、製造業的工業電腦...等,這些嵌入式設備過去多為獨立式運作,即便有連網功能,也都僅與上層架構鏈結,傳送系統運作資料,設備之間彼此並未連結為綿密的物聯網架構。

近年來物聯網概念逐漸普及,在多數產業導入後,過去制定的物聯網架構開始因應企業實務運作轉型,就目前發展來看,架構在物聯網底層的嵌入式設備,將會有兩大改變,包括快速導入和智慧物件。

在快速導入部分,過去系統中的設備數量少,系統建置並不難,但物聯網系統號稱萬物皆連,大量擷取第一線設備的訊號,累績成大數據後,讓上層的雲端平台的運算更趨精準,因此在物聯網系統中,第一線設備的部件相當重要,在消費性領域如智慧家庭,其設備可以逐步連結,但在地域龐大像是大型醫院、工廠等,其連結的嵌入式裝置數量有可能上達千台,要在一定時間內佈建,其難度相當高,尤其是較舊的機台,要將感測訊息連上網,更對系統人員帶來嚴苛挑戰。對此困境,舊型設備必須藉由外接模組與上層鏈結,機型較新的嵌入式設備,則多已有連網功能,現在物聯網仍多使用3G、4G、Wi-Fi等通訊技術,要連結上網並不難,但如何讓傳回的資料具正確性,就必須靠智慧物件的設計。

智慧物件的設計有兩部分,包括邊緣運算和元件AI化。邊緣運算是讓位處系統終端的嵌入式設備有一定運算能力,設備先行預處理過數據後,再將結果傳回雲端平台,邊緣運算除可降低後端處理器的工作負載外,前端整理過的數據量也會大幅減少,若是採用3G、4G等通訊技術的系統,就可降低傳輸費用。元件AI化則是讓嵌入式設備內的零組件如儲存裝置、人機介面等,具有AI功能,使其可偵測設備狀態,提升系統運作效率,例如播放高畫質影音檔案時,儲存裝置可從資料的讀取次數,運算出運作模式,進而調整設備狀態,預先處理讀取磁區,使整體系統運作更穩定且快速。

AI與物聯網是近兩年嵌入式領域的重要趨勢,而業界多認為這兩者將會快速整合,翻轉過去IT架構的功能走向,在此態勢下,無論是單一設備或整體系統,嵌入式設計者必須有全新思維,一直以來嵌入式系統的設計都以市場需求為設計導向,在AIoT時代,系統使用思維將全部翻轉,設備內部的元件功能更細更具智慧,外部的系統整合則必須更緊密且多元,如此方能因應新世代的市場需求,設計出最佳化嵌入式系統。