發揮多重架構優勢 Intel滿足多樣化AI視覺需求

Intel OpenVINO解決方案。

把AI電腦視覺功能帶到各類IoT邊緣裝置是目前業界最熱門的應用之一，而且需求橫跨所有的垂直市場，包括零售、工業、企業、智慧城市、FinTech等。為了滿足各種使用案例的不同設計考量，並為邊緣裝置提供最具成本效益與功率效益的AI推論功能，很難以單一硬體架構來滿足所有的需求。

有鑑於此，Intel建構了包括CPU、iGPU、FPGA和VPU等多重硬體架構，並透過結合強大且豐富的軟體資源、以及與生態系統夥伴合作開發多種不同外型尺寸、主機介面以及處理器組合的視覺加速器模組，可提供完備、具擴充性的解決方案，以協助開發人員與IoT設備製造商因應多樣化的應用需求，並快速地將其產品升級至支援AI視覺功能，進而加速智慧邊緣裝置的實現。

AI視覺無所不在　單一架構無法滿足所有需求

根據統計，全球有超過八成的IP流量是視訊內容。因此，在全新的數據驅動時代中，若要贏得市場，就必須掌握電腦視覺以及辨識分析技術，才能把大量的視訊數據轉換為獲利來源，而此趨勢也已帶動了AI視覺應用在各產業的蓬勃發展。

儘管我們可預見AI視覺應用將無所不在，然而，現今業者在開發時常面臨的挑戰是，在從感測器、裝置、到資料中心的端到端建置中，AI深度學習功能應該部署在哪個環節，不同的垂直市場會有不同的設計考量，目前還很難找到已知的最佳配置(best known configuration)。因此，儘管AI視覺應用前景看好，但必須確切掌握開發智慧邊緣裝置的問題與需求，才能真正實現商機。

此外，在端到端的AI視覺建置中，會涉及資料處理、顯示、推論、神經網路(包括CNN、RNN)等各種運算需求，且須考慮應用對於處理器、I/O、以及記憶體的不同需求，才能決定何種硬體架構是最佳選擇。

對此，業者需要更具靈活性的硬體架構，來滿足終端產品對於效能、功耗及成本的不同需求，僅採取單一架構，勢必無法滿足所有需求。舉例來說，在公車站亭的電腦視覺應用，僅需計算人數，不用進行準確的年齡、性別辨識。這類應用由於運算負載較低，再加上空間與散熱考量，嵌入式解決方案足以支援，無需採用高階GPU。而網路監控器、邊緣伺服器等裝置則會需要效能較高的處理器，才能滿足高階深度學習負載的需求。

因此，在AI視覺的端到端建置中，每個環節都有可能需要AI功能，需要利用不同的硬體架構才能提供最佳化效能。對Intel來說，除了既有堅強的CPU產品組合之外，還可提供iGPU、FPGA以及VPU等硬體架構，是市場上極少數擁有完備端到端視覺運算架構的業者，能夠靈活因應各種AI視覺應用對硬體的不同需求。

簡化開發工作　OpenVINO工具套件扮演要角

憑藉著擁有完備的硬體平台，業界對於Intel在AI市場的部署有高度期待，Intel也致力於以開發者的角度來協助業者加速AI應用的開發。因此，除了靈活的硬體架構可供選擇之外，要加速AI視覺在邊緣裝置的落地應用，強大、易用的開發工具更是不可或缺。為此，Intel已推出OpenVINO (Open Visual Inference & Neural Network Optimization)開放式工具套件。

此套件包含Intel深度學習部署工具套件，具有模型最佳化器、推論引擎，以及針對OpenCV和OpenVX的最佳化電腦視覺庫，並支援TensorFlow、MXNet、Caffe等主流學習架構。此外，OpenVINO還提供許多預先訓練過的模型、豐富的演算法，讓開發人員可以方便取得並進行測試，無須自己到開放社群中耗費時間找適當的資源。

更重要的是，OpenVINO已針對Intel的各種硬體平台進行最佳化設計，開發人員撰寫的AI演算法可適用在不同硬體架構上，而且若採用不同的架構，僅需重新編譯，不用再重新撰寫。這意味著，利用OpenVINO，開發人員能夠以單一工具套件支援不同的學習架構與硬體架構，以確保目前與未來 Intel硬體都能基於端到端架構，快速、順暢地進行部署。這將能大幅簡化開發人員的工作，並且以極佳的靈活性解決了目前業界不易找到已知最佳配置(BKC)的難題。

攜手生態系統夥伴　推出完備的視覺加速器設計產品

此外，Intel與台灣五家生態系統夥伴合作，已開發出一系列的視覺加速器設計(Vision Accelerator Design)產品，包括PCIe、mini PCIe、以及M.2等不同的外形尺寸，這些板卡可提供多款Movidius VPU、FPGA以及CPU等處理器的組合，能夠以具備各種效能、功率與成本組合的完備解決方案來滿足從零售POS終端、穿戴裝置、到PC、工業設備、以及伺服器等各種裝置對電腦視覺以及深度學習功能的不同需求。

隨著這些產品的就緒，相信很快地，將能看到AI視覺在各類裝置上的普及應用。特別是，台灣是IoT裝置的生產重鎮，有高達七成以上基於Intel架構的閘道器來自台灣，是Intel非常重要的合作夥伴。而此做法正是從嵌入式業者以及solution-centric的角度出發，透過提供多樣化的模組化產品，再配合功能強大OpenVINO工具套件，能協助更多的嵌入式業者跨入AI應用。

對廣大的ODM/OEM業者來說，視覺加速器設計產品帶來的效益是顯而易見的，除了加速創新之外，還能提供廣泛的相容性，這些模組均能與現有裝置相容，使市場上各式各樣的Intel-based嵌入式以及PC產品都能快速地升級至支援AI視覺功能，加速智慧邊緣裝置的實現，還能進一步擴展，為邊緣裝置、閘道器與雲端建置最佳化的視覺解決方案。瞭解更多的Intel AI@IOT edge的軟硬體解決方案，請參考官網。