智慧應用 影音

FPGA讓邊緣運算更具彈性 Xilinx提升客戶AI開發優勢

2020/09/17 - DIGITIMES企劃

為提升嵌入式系統的運作效能,邊緣運算成為科技產業近年來的重要趨勢,不過AI技術的演進快速,邊緣運算架構若不能快速隨之調整,將難以符合使用者需求,對此安富利台灣主任應用工程師陳豊縜指出,FPGA的彈性化特色將可協助工程師解決此一問題。

陳豊縜在「使用Xilinx快速部署AI邊緣裝置」議題演講中先介紹FPGA。她表示FPGA的中文為現場可程式邏輯閘陣列,其晶片由邏輯電路組成,使用者可將撰寫程式燒錄於FPGA晶片中,藉此定義電路連線以生成專用IC,由於此種燒錄非一次性的,而是可重覆燒錄程式,因此多數IC設計業者會先以FPGA完成IC功能驗證再投入ASIC,以減少失敗機率。

除了上述功能外,在少量多樣或上市壓力巨大的領域中,業者也會以FPGA取代ASIC,AI的各垂直應用市場就兼具上述兩大特色。陳豊縜指出,近年來AI的應用領域快速擴增,不同AI演算法不斷推陳出新,其創新週期甚至比專用IC的設計驗證週期流程更快,再加上不斷變化的工業標準、越來越高的安全及保密性需求,與數量漸多的感測器,這些變化都讓既有的運算架構無力負荷,市場需要的是可依據不同應用調整運算結構的硬體平台,要解決此問題,FPGA就是最佳解答,而Xilinx也對此提出解決方案。

陳豊縜表示,為了協助客戶縮短產品上市時間,Xilinx將FPGA與CPU、ASIC整合為SoC,此一SoC架構中有基本的通訊介面,再加上FPGA原有的可調整不同運算結構特色,設備業者即可快速設計出邊緣運算架構產品。

至於要如何開始部署AI架構,陳豊縜也提出了建議。她表示首先必須釐清AI辨識需求,再找出合適模型。其次是計算此一模型所需運算量,最後再選擇符合功耗、效能與成本的邊緣運算裝置。對於這些工作,傳統的做法是採用開發硬體描述語言,不過此一方式已難因應現在市場的快速需求,對此Xilinx則提供了可快速部署AI的開發套件Vitis AI。

Vitis AI包含經過最佳化的IP、工具、資料庫、模型與範例設計,此平台的開發流程支援可分為載入訓練模型、優化模型、將模型編譯成執行檔、整合執行程式與硬體、部署硬體裝置等5大步驟,協助客戶徹底利用Xilinx FPGA在AI的快速開發能力。

陳豊縜表示,對於AI的推論模型,Xilinx提供了可調整不同運算結構的硬體平台,其低延遲、高彈性與高擴展性的獨特優勢,可完整串聯邊緣與雲端兩大層面。Vitis AI流程則能滿足系統廠商在AI推論模型的開發效率,其AI部署無需RTL編程、DPU、工具鏈、特定模型和設計服務,簡化了整體開發架構,同時也縮短產品的上市時程,藉此強化業者的競爭優勢。


圖說:安富利台灣主任應用工程師陳豊縜。