seagate
Advantechline
 

發揮多重架構優勢 Intel滿足多樣化AI視覺需求

Intel OpenVINO解決方案。

把AI電腦視覺功能帶到各類IoT邊緣裝置是目前業界最熱門的應用之一,而且需求橫跨所有的垂直市場,包括零售、工業、企業、智慧城市、FinTech等。為了滿足各種使用案例的不同設計考量,並為邊緣裝置提供最具成本效益與功率效益的AI推論功能,很難以單一硬體架構來滿足所有的需求。

有鑑於此,Intel建構了包括CPU、iGPU、FPGA和VPU等多重硬體架構,並透過結合強大且豐富的軟體資源、以及與生態系統夥伴合作開發多種不同外型尺寸、主機介面以及處理器組合的視覺加速器模組,可提供完備、具擴充性的解決方案,以協助開發人員與IoT設備製造商因應多樣化的應用需求,並快速地將其產品升級至支援AI視覺功能,進而加速智慧邊緣裝置的實現。

AI視覺無所不在 單一架構無法滿足所有需求

根據統計,全球有超過八成的IP流量是視訊內容。因此,在全新的數據驅動時代中,若要贏得市場,就必須掌握電腦視覺以及辨識分析技術,才能把大量的視訊數據轉換為獲利來源,而此趨勢也已帶動了AI視覺應用在各產業的蓬勃發展。

儘管我們可預見AI視覺應用將無所不在,然而,現今業者在開發時常面臨的挑戰是,在從感測器、裝置、到資料中心的端到端建置中,AI深度學習功能應該部署在哪個環節,不同的垂直市場會有不同的設計考量,目前還很難找到已知的最佳配置(best known configuration)。因此,儘管AI視覺應用前景看好,但必須確切掌握開發智慧邊緣裝置的問題與需求,才能真正實現商機。

此外,在端到端的AI視覺建置中,會涉及資料處理、顯示、推論、神經網路(包括CNN、RNN)等各種運算需求,且須考慮應用對於處理器、I/O、以及記憶體的不同需求,才能決定何種硬體架構是最佳選擇。

對此,業者需要更具靈活性的硬體架構,來滿足終端產品對於效能、功耗及成本的不同需求,僅採取單一架構,勢必無法滿足所有需求。舉例來說,在公車站亭的電腦視覺應用,僅需計算人數,不用進行準確的年齡、性別辨識。這類應用由於運算負載較低,再加上空間與散熱考量,嵌入式解決方案足以支援,無需採用高階GPU。而網路監控器、邊緣伺服器等裝置則會需要效能較高的處理器,才能滿足高階深度學習負載的需求。

因此,在AI視覺的端到端建置中,每個環節都有可能需要AI功能,需要利用不同的硬體架構才能提供最佳化效能。對Intel來說,除了既有堅強的CPU產品組合之外,還可提供iGPU、FPGA以及VPU等硬體架構,是市場上極少數擁有完備端到端視覺運算架構的業者,能夠靈活因應各種AI視覺應用對硬體的不同需求。

簡化開發工作 OpenVINO工具套件扮演要角

憑藉著擁有完備的硬體平台,業界對於Intel在AI市場的部署有高度期待,Intel也致力於以開發者的角度來協助業者加速AI應用的開發。因此,除了靈活的硬體架構可供選擇之外,要加速AI視覺在邊緣裝置的落地應用,強大、易用的開發工具更是不可或缺。為此,Intel已推出OpenVINO (Open Visual Inference & Neural Network Optimization)開放式工具套件。

此套件包含Intel深度學習部署工具套件,具有模型最佳化器、推論引擎,以及針對OpenCV和OpenVX的最佳化電腦視覺庫,並支援TensorFlow、MXNet、Caffe等主流學習架構。此外,OpenVINO還提供許多預先訓練過的模型、豐富的演算法,讓開發人員可以方便取得並進行測試,無須自己到開放社群中耗費時間找適當的資源。

更重要的是,OpenVINO已針對Intel的各種硬體平台進行最佳化設計,開發人員撰寫的AI演算法可適用在不同硬體架構上,而且若採用不同的架構,僅需重新編譯,不用再重新撰寫。這意味著,利用OpenVINO,開發人員能夠以單一工具套件支援不同的學習架構與硬體架構,以確保目前與未來 Intel硬體都能基於端到端架構,快速、順暢地進行部署。這將能大幅簡化開發人員的工作,並且以極佳的靈活性解決了目前業界不易找到已知最佳配置(BKC)的難題。

攜手生態系統夥伴 推出完備的視覺加速器設計產品

此外,Intel與台灣五家生態系統夥伴合作,已開發出一系列的視覺加速器設計(Vision Accelerator Design)產品,包括PCIe、mini PCIe、以及M.2等不同的外形尺寸,這些板卡可提供多款Movidius VPU、FPGA以及CPU等處理器的組合,能夠以具備各種效能、功率與成本組合的完備解決方案來滿足從零售POS終端、穿戴裝置、到PC、工業設備、以及伺服器等各種裝置對電腦視覺以及深度學習功能的不同需求。

隨著這些產品的就緒,相信很快地,將能看到AI視覺在各類裝置上的普及應用。特別是,台灣是IoT裝置的生產重鎮,有高達七成以上基於Intel架構的閘道器來自台灣,是Intel非常重要的合作夥伴。而此做法正是從嵌入式業者以及solution-centric的角度出發,透過提供多樣化的模組化產品,再配合功能強大OpenVINO工具套件,能協助更多的嵌入式業者跨入AI應用。

對廣大的ODM/OEM業者來說,視覺加速器設計產品帶來的效益是顯而易見的,除了加速創新之外,還能提供廣泛的相容性,這些模組均能與現有裝置相容,使市場上各式各樣的Intel-based嵌入式以及PC產品都能快速地升級至支援AI視覺功能,加速智慧邊緣裝置的實現,還能進一步擴展,為邊緣裝置、閘道器與雲端建置最佳化的視覺解決方案。瞭解更多的Intel AI@IOT edge的軟硬體解決方案,請參考官網

  •     按讚加入DIGITIMES智慧應用粉絲團