Arm 終端 AI 運算生態高峰會
Arm 終端 AI
運算生態高峰會
September 14, 2021Tue
13:00 - 18:00
線上研討會
2021 Arm 終端 AI 運算生態高峰會 一探機器學習的未來

人工智慧 (AI) 是運算領域的一大變革,根據《麻省理工學院技術評論洞察》指出,基於將裝置蒐集到的數據傳送至雲端運算有延遲、耗電、成本、可靠性、隱私與安全等考量,超過半數的企業組織已將 AI 部署在邊緣或終端裝置,機器學習 (ML) 朝終端移動之趨勢已蔚然成形。今日,大多數的機器學習在 Arm CPU 上執行,為了協助開發者部署,Arm 打造開源人工智慧軟體生態系,以極大化處理器的類神經網路 (NN) 效能,透過開源的 CMSIS-NN 函式庫與眾多 ML 框架結合,例如 TensorFlow Lite Micro、ONNX 等,使開發人員能利用 Arm 處理器以及微神經網路處理器硬體優化,有效地對 MCU 與 MPU 進行加速與應用部署。

在 9月14 日 Arm 舉辦的 2021 終端 AI 運算生態高峰會,將由 Arm 應用工程總監 David Hsu 擔任引言人,首先 Arm 機器學習部門商業與行銷副總裁 Dennis Laudick 對 AI /ML 為產業帶來之機會提出宏觀洞察 ; 在機器學習領域富有盛名的台大電機系副教授李宏毅先生,將分享語音辨識的研究成果;Arm 的技術專家與生態系夥伴,包括 TensorFlow、Skymizer、賽微科技 (Cyberon) 與 Edge Impulse 也將針對 Arm AI 解決方案,以及如何在 Arm 架構上實現低成本、高效率的優化設計,進行說明與演示。

參與本場線上論壇的觀眾,除了能瞭解開源 ML 框架、Endpoint AI 解決方案,以及最先進的語言機器學習研究之外,還能看到首次公開演示的 Arm Cortex-M55 處理器與 Ethos-U55 微神經網路處理器帶來的優異機器學習效能,並深入瞭解 AI 系統軟體與指令客製工具,歡迎工程師、開發人員、架構設計師、系統設計製造者、產品經理、企業主管以及對機器學習技術有興趣之觀眾參加,以協助你更輕鬆地在注重功耗的環境中高效部署終端機器學習。

演講議程
13:00 - 13:10
OPENING
13:10 - 13:30
Enabling Innovation for the AI Era

AI is a once in a generation change in computing that’s expanding the capabilities of cloud server to the tiniest IoT device. Today, most ML is still performed on Arm CPUs and we continue to improve the efficiency of them, but dedicated Neural Network Processors -- NPUs -- are becoming more prevalent because they can dramatically improve the efficiency and performance of systems in a world where more and more ML must be run. For many years now, Arm has been on a mission to create the foundations to realize the opportunity of AI. The opportunities are massive, the market is open to everyone, and Arm is reducing risks by providing trusted blocks of technology, and through its ecosystem, delivering further tools and technologies to get to market faster and make it easier to unlock the value.

Arm Commercial and Marketing VP of ML Dennis Laudick will provide a comprehensive overview of Arm’s efforts and the opportunities created by AI and ML.

Dennis Laudick
機器學習部門商業與行銷副總裁
Arm
13:30 - 14:15
無師自通的語言機器學習

一般在訓練語音辨識系統時不僅需要蒐集大量的語音訊號,還需要人類對資料進行適當標註,此種方式限制了 AI 的使用範圍,以語音辨識為例,只有具備大量標註資料的中英文,能取得較高的辨識率。

在這個大數據的時代,若 AI 可以自行在網路上聆聽與閱讀大量未標註的語音及文字,將可改善蒐集資料所費不貲的問題。本演講將探討 AI 如何使用未標註的資料進行學習,並分享這些技術對 TinyML 所帶來的挑戰。

李宏毅
電機工程學系副教授
國立台灣大學
14:15 - 15:05
Arm AI 解決方案釋放終端人工智慧潛力

深入剖析目前主流智慧終端裝置的發展趨勢,以及 Arm 人工智慧解決方案如何適配多樣化的使用場景。演講中將實際展示說明 Arm 如何利用各式開源軟體開發 TinyML,並提升軟硬體效能以優化工作負載,協助生態系。

Odin Shen
首席應用工程師
Arm
15:05 - 15:45
Getting Started with TFLite Micro and CMSIS-NN for ML Applications

A combination of Machine Learning (ML) technology with microcontrollers (MCU) offers exciting opportunities for new applications. MCUs are typically memory and power constrained and offer a challenging environment for building ML applications. This presentation introduces the TFLite Micro (stands for TensorFlow Lite for Microcontrollers) as an open sourced framework that enables fast development of ML applications on microcontrollers. TFLite Micro runs on bare metal and is designed to be tiny in memory footprint. It is easy to modify and extend. Optimized CMSIS-NN kernels are available with TFLite Micro.

Deqiang Chen
資深工程師
Google
Tiezhen Wang
資深軟體工程師
Google
15:45 - 16:25
Tiny ONNC: CMSIS-NN 驅動的高效編譯器,為物聯網裝置釋放智慧力量

儘管人工智慧在伺服器上佔有優勢,但在物聯網裝置上仍有巨大的發展空間,對於物聯網開發人員來說,物聯網裝置的多樣性導致為 AI 應用找到合適的硬體和管理硬體資源既不容易亦不具效率。為此,Skymizer 開發了 Tiny ONNC,這是一款簡單高效的 AI 編譯器,由 Arm CMSIS-NN 驅動。Tiny ONNC 允許您使用您熟悉的工具,例如 Google Colab,用數據訓練模型,然後透過通用部署程序將模型部署到您的 IoT 裝置。

在本場演講中,您將了解:

  • 編譯器如何協助您進行邊緣人工智慧部署
  • 什麼是 Tiny ONNC?
  • 介紹並演示 Tiny ONNC 如何協助雲原生 edge AI 開發人員進行部署
Peter Chang
共同創辦人
Skymizer
16:25 - 17:05
以 Arm Cortex-M55 平台實現 DNN-based 語音喚醒及指令辨識演算法

語音辨識技術發展多年,近來隨著 AI 技術及雲端服務的發展而更廣受歡迎。除了雲端服務的方案,在許多資源有限的產品上同樣有強烈的本地語音辨識需求,然而目前開發人員並不容易找到可同時滿足辨識效能和成本考量的方案。有鑑於此,Cyberon 推出本地語音喚醒和指令辨識的演算法 DSpotter,成功移植到 ARMv8-M 架構的平台上,其需求低運算資源、高辨識率、高抗噪等特性,將能降低開發成本。

在本場演講中,您將了解:

  • 什麼是 Cyberon DSpotter?
  • DSpotter 如何降低開發成本
  • ARMv8-M 架構如何增進DSpotter的運算效能
  • 介紹並演示 DSpotter 的指令客製工具
Alex Liou
嵌入式方案事業處副總經理
Cyberon
17:05 - 17:45
Enable Your IoT Arm Devices to Hear by Giving Them a New Brain

As humans, we have the amazing ability to gain an understanding of the world around us by using our senses. By using our ears for example, we can quickly determine whether our car’s engine is having issues if we hear unusual engine noises, or by hearing someone coughing we can right away understand that someone is unwell. But humans can’t be everywhere and at all times. Can we enable machines to detect another machine’s failure simply by listening to it, sending preemptive alerts that minimize downtime, risk and production problems? Can it listen to footsteps in a restricted area?

Join us for a deep dive into how embedded machine learning can enable all Arm-powered devices to become smart.

During this session with practical presentation you will:

  • Learn how to give your Arm-based devices brains and ears
  • Teach your sensors to fully understand the real world
  • Apply machine learning to higher-value use cases and mission-critical workloads.
Jan Jongboom
Co-Founder & CTO
Edge Impulse
重量級講師
Dennis Laudick
Dennis Laudick
機器學習部門商業與行銷副總裁
Arm
David Hsu
David Hsu
應用工程總監
Arm
Hung-yi Lee
Hung-yi Lee
電機工程學系副教授
國立台灣大學
Odin Sheng
Odin Sheng
首席應用工程師
Arm
Deqiang Chen
Deqiang Chen
資深工程師
Google
Tiezhen Wang
Tiezhen Wang
資深軟體工程師
Google
Peter Chang
Peter Chang
共同創辦人
Skymizer
Alex Liou
Alex Liou
嵌入式方案事業處副總經理
Cyberon
Jan Jongboom
Jan Jongboom
Co-Founder & CTO
Edge Impulse
活動好禮
問卷禮
咖啡提貨券
30份
完整填完問卷者抽出30位幸運兒
勤學獎
500元虛擬商品卡
5份
全程參與並於線上有提問者
為何要參加 Arm 終端 AI 運算生態高峰會?
全面的終端 AI 運算技術
藉由瞭解 Arm AI 願景、方案以及 Arm Cortex-M55 處理器搭配 Ethos-U55 微神經處理器帶來的ML 躍升效能,協助開發人員創新。
先進的語音機器學習研究
向學界專家學習語言辨識的趨勢與進展,規劃前瞻性設計。
TinyML 完整生態系演示
藉由 Arm AI 生態系對 ML 框架與軟體之演示,獲得完整專業知識。
架構與實務兼具
高達五小時的知識饗宴,以及與專家的交流機會,突破開發瓶頸。
主辦單位
合作夥伴(依英文字母順序排列)