Skymizer 在MLPerf Tiny v1.1 Benchmarks 取得極佳效能

Skymizer長期耕耘在AI system software領域，是台灣AI system software的領頭羊，日前在MLPerf Tiny v1.1 Benchmarks的官方競賽當中取得絕佳成績。這次Skymizer分別送了兩次跑分，一個跑分與新唐科技合作，挑戰軟硬體協同優化的極限，取得ARM Cortex-M4當中的最好成績。另外一個跑分則基於通用的MCU 平台，靠純粹的ONNC 編譯器力壓MicroTVM。

在與新唐合作的跑分當中，Skymizer發揮了軟硬體協同優化的能力，在新唐的M467HJHAN取得了絕佳的成績。M467HJHAN MCU 工作在200MHz，有512KBSRAM。在這樣的環境之下，Skymizer利用ONNC 編譯器、作業系統、CMSIS-NN優化函式庫三管齊下，順利的在ARM Cortex-M4領域當中取得頭籌。

在純粹的編譯器優化的跑分當中，相較於open-source編譯器，ONNC取得平均1.24x的效能提升。在IC （Image Classification）benchmark 當中，ONNC加速了系統1.31x倍。這是因為ONNC能將大型的tensor 做最適當於memory bandwidth/size的分割，當模型越大而硬體記憶體越小，此優勢就越能夠呈現出來。另外一個VWW（VisualWake Word）benchmark，ONNC加速了1.52x倍。這是因為ONNC有絕佳的演算法可以處理sparse tensor卻又保持高精準度。

Skymizer藉由這兩個跑分成績，證明了在AI system software上的領先定位。Skymizer的系統軟體能夠容易地移植到各式的硬體上，目前已經被廣泛應用在datacenter的推薦系統加速器與通用型加速器上，也已經被各式的加速晶片，如手機、監視系統與微處理器採用。Skymizer會持續的提供客戶最佳的工具與服務，加速AI世界的到來。更多資訊請到Skymizer官網查詢。