Deeplite加速人工智慧應用上市時間 瞄準邊緣運算應用

人工智慧(AI)驅動的電腦視覺應用在運算效能有限的邊緣節點上的應用，顯得左支右拙而力有未逮，因為AI系統通常相當龐大、吃重而且耗電量高，尤其在雲端基礎架構的成本水漲船高之際，耗費鉅資打造的機器學習應用令人負擔沉重，無法符合綠能環保的友善環境要求，又要花幾個月的時間調校AI模型，以尋求足夠的準確性。

要打破這些藩籬，加拿大的新創企業Deeplite發展出Neutrino軟體平台，提供深度神經網路最佳化引擎的強大功能，可以用在運算效能受限下的邊緣裝置硬體環境上，發揮實質效益，只要輸入事先訓練過的深度神經網路模型，這個程式會自動轉化成小型化、高效率的AI模型並維持足夠的準確度，特別是產業界中大量使用以攝像機做為光學自動檢驗系統，現在可以讓包括MCU、CPU與RISC-V處理器核心能夠游刃有餘的執行AI應用，除了必備的TPU處理器之外，特別需要依賴軟體的最佳化的處理與關鍵的軟、硬體的整合，能夠讓AI邊緣運算系統發揮最大的效益並滿足客戶在快速量產與高度彈性的生產需求。

Deeplite的Neutrino軟體簡單易用  快速產生高度精簡、效能出眾的AI模型

Deeplite專精於改善深度神經網路效率，驅動在邊緣運算裝置或是雲端服務上獲得高超的效能提升的表現，尤其為了讓諸如機器視覺或是複雜的AI應用，得以裝載在邊緣裝置或是處理器能力有限的邊緣運算裝置，Deeplite的技術同步追求效率、省時且兼顧成本的考量，完成AI最佳化的調控，並產出足夠準確度的模型以達到設定的產品規格。

Deeplite的Neutrino軟體最顯著的優勢在於無縫接軌與順暢的整合流程，使用其簡單易用的介面能夠快速幫助OEM廠商與晶片設計的AI工程與資料科學應用團隊，駕馭完整產品設計，以下是實際使用的示範步驟：

(1) 輸入預先訓練模型、隨附的資料集，以及設定預期的效能參數與準確率。(2) 按下按鍵之後，在可接受的準確率的條件下，Deeplite Neutrino立即輸出高效能的最佳化模型。(3) 透過附加的程式編譯器與推論引擎，部署最佳化模型進入目標硬體裝置。

智慧工廠的自動光學檢測系統與機器手臂整合自動分類的應用引起重視

目前最常用的應用還是以電腦視覺為主的AI應用，舉凡智慧工廠的自動光學檢測系統，由於需要快速的推論運算引擎以判讀攝像機拍攝的影像，並節省製程成本與昂貴的GPU晶片的投資，透過最佳化的AI應用部署在低功率消耗的裝置哩，以檢測物件來提升品質檢驗的效能。另外，生產線上擅用電腦視覺與機器手臂做自動分類的應用，都是重要的使用典範。

Deeplite目前的客戶群以北美、台灣、日本和少數歐洲的地區為主，感謝加拿大駐台北貿易辦事處(CTOT)的協助，得以持續開發台灣市場，台灣對Deeplite而言是一個最佳的潛力市場，透過Neutrino軟體Deeplite正密切建立晶片設計、電子裝置OEM，以及不同的製造端的解決方案的合作管道，並希望與台灣產業界攜手合作，強化Deeplite在台灣的經營。