掌握AI新趨勢脈 迎向未來黃金商機 智慧應用 影音
Vicor
育秀教育基金會

掌握AI新趨勢脈 迎向未來黃金商機

  • 鄭斐文DIGITIMES企劃

台達研究院院長闕志克。DIGITIMES攝
台達研究院院長闕志克。DIGITIMES攝

Taiwan AI EXPO 2022不知講堂第二天延續第一天知識饗宴,探索你我有所不知的AI奧妙。由台達研究院院長闕志克的「從AI 1.0到AI 2.0,我們將走向何方」演說揭開序幕。

進入AI 2.0時代 該留意哪些議題?

人工智慧科技基金會常務董事詹婷怡。DIGITIMES攝

人工智慧科技基金會常務董事詹婷怡。DIGITIMES攝

國立成功大學客座教授林偉棻。DIGITIMES攝

國立成功大學客座教授林偉棻。DIGITIMES攝

台灣大學電機工程學系副教授李宏毅。DIGITIMES攝

台灣大學電機工程學系副教授李宏毅。DIGITIMES攝

開必拓數據執行長孫逢佑。DIGITIMES攝

開必拓數據執行長孫逢佑。DIGITIMES攝

詠鋐智能(Chimes AI)執行長謝宗震。DIGITIMES攝

詠鋐智能(Chimes AI)執行長謝宗震。DIGITIMES攝

台灣塑膠工業保養中心組長鄭琦聰。DIGITIMES攝

台灣塑膠工業保養中心組長鄭琦聰。DIGITIMES攝

宜鼎國際總經理特助張獻文。DIGITIMES攝

宜鼎國際總經理特助張獻文。DIGITIMES攝

華邦電子DRAM產品行銷部經理曾一峻。DIGITIMES攝

華邦電子DRAM產品行銷部經理曾一峻。DIGITIMES攝

闕志克表示,這波風行的AI,是基於深度神經網路(DNN)的機器學習(ML),所謂ML,即是找出輸入到輸出的映射關係。5年前此事還算新奇,但如今得力於可用的開源工具眾多,以致大部分的人都懂得操作ML。

AI從2012年開始盛行至今近10年,已培養越來越多人才,彼此的技能差不多,越來越難分出高下;展望今後從AI 1.0推進到AI 2.0世代,競爭主題將如何演變?闕志克認為有幾個議題值得留意,首先是AI訓練過程的自動化,譬如人們可透過AutoML,自動探索DNN架構與調校超參數。

其次是小數據的ML,你只要給我高品質資料,哪怕數量上僅有傳統訓練流程的1/10,都足以執行訓練,尤其適用於製造業瑕疵檢測場景。再來是可解釋的AI(Explainable AI),過去AI模組只告知結果、不解釋判斷依據,但今後有越來越多應用需要探究箇中邏輯,例如有人申請貸款遭拒,總是需要知道理由,才能加以改善。

接著為AI安全議題,重點不在於防範駭客侵入AI系統,而是確保AI模型不會遭人盜版,或在使用MLaaS的同時、確保雲端業者無法窺視其中訓練資料。

此外大家應留意新型DNN架構,如在自然語言處理上展現重大突破的GPT-3,有逾1,700億個參數供人調用,以致AI模型只要看過夠多的字,有足夠的運算資源支持,即可在一秒內產生深具內涵的文章;後續不只從字產生字、產生圖像,甚至有機會產生Computer Code。

建構可信任AI  實為當務之急

人工智慧科技基金會常務董事詹婷怡,拋出值得省思的議題,非科技相關的人如何看待AI?重點在於「信任」;必須透過規範、標準或Guideline,將「可信任AI」建構起來。

她指出,AI是重要的數位轉型工具,可創造許多產業價值;但AI若不能取信大眾,恐形成發展阻礙。針對如何營造信任,她提出幾點建議。第一在系統設計階段即需融入安全考量,不能只求事後防範。第二,IoT安全、執法、資安社群等團體須對話與協作。第三應重視AI和IoT的數位足跡及隱私保護。更重要的,任何形式的連網裝置,從研發、傳輸、資料收集、資料保護到裝置等多層次議題,皆與如何建立可信任AI有所關聯。

AI如何規範?不少人主張應趕緊立法,但這未必是最佳方式;只因科技一夕數變,任何規範若不是基於一個可能的原則,徒然限制太多,反倒會阻礙創新。如何形成與時俱進的原則?有賴科技、非科技的群體共同對話,討論出適當的AI紀律或指引。

綜觀國際上AI規範,詹婷怡點出歐盟執委會所成立的「人工智慧高級專家組」,其中包含技術專家、法律、社會學、社群公民等代表,透過彼此對話,才產生包含人類自主性和監控、技術穩健性和安全性…等7個「可信任AI」構成要素;其經由對話來形成AI規範的機制,頗值得台灣借鏡。

邁向跨域整合應用 開啟Edge AI新契機

國立成功大學客座教授林偉棻表示,在吳誠文前副校長、敏求智慧運算學院院長謝明得的帶領下,匯聚5G Edge AI、行動社群軟體及應用,為110全大運增添了類似奧運的「Fan Engagement」即時轉播元素,在賽道上疊加多項資訊,讓觀眾更清楚觀賞運動選手的核心技藝,締造台灣大型運動賽事的新典範。

林偉棻指出,110全大運背後有一個複雜的SoS(Systems of Systems)架構,整合許多科技業者的單一系統,變成一個更大型的系統,分布於成多個不同的Layer,由學校及業者們協同設計,克服諸多異質整合難題,嘗試將5G Edge AI轉變為可望在實現商業獲利的契機。

過去台灣產業擅長做系統或晶片裡頭的元件,但若想要有更佳的獲利前景,必須走向系統整合、跨域應用的道路。為此成大開始發想國際合作的可能性,假設在一個場景上,觀眾們人人都佩戴AR/VR/MR眼鏡,有望彙集每個人產生的不同視覺資料,開啟另一個新型態Multi-Edge運算平台,形成非常巨大的創新應用發展潛能。

林偉棻特別提醒,在Edge AI的創新發展過程中,「聯盟式學習」是值得關注的關鍵技術,它與傳統分散式AI有所不同,可將原始資料留在受保護的邊緣裝置,僅需匯聚各單位的在地訓練結果,就能產生大型的訓練成果,進而讓AI的價值定位,從工具、助理、夥伴再進化至管理者,幫助人類做出更具智慧的決策。

自督導式學習 展現三大驚奇

台灣大學電機工程學系副教授李宏毅表示,以往大家依賴督導式學習技術,來發展諸如語音辨識、機器翻譯等應用,惟需要收集多達10萬筆聲音訊號、再耗時產生大量標註資料,徒增AI落地困難。

因此越來越多AI研究人員開始擁抱自督導式學習新模式。它只需搭配大量無標註資料,即可為機器執行預訓練、培養基本能力,爾後再結合少量標註資料並適度微調,便能讓機器快速學會執行不同任務。

更有甚者,以自然語言處理為例,用戶只要從網路上收集大量文章,即可展開預訓練,打造出能夠「自問自答」的BERT模型,藉此過程快速學會判讀人類語句。

但問題來了,BERT是一個巨大模型,要訓練到它具備自問自答能力,其實是浩大工程。為解決此問題,李宏毅和其他學者共同打造SUPERB基本語料庫,讓BERT可輕易運用在各種自然語言處理或語音處理任務上,使每次訓練不需再餵進等同於3千套哈利波特全集的龐大文字量。

後來李宏毅從自督導式學習發現三大奇蹟,包括「跨語言」,如只學過英文卻能辨識中文;其次是「跨學科」,學過語言後,竟具備蛋白質分類、DNA分類能力;再者「沒做語言訓練卻具備基本能力」,僅用人工規則生成資料、一堆數位符號做訓練,之後卻能處理自然語言任務,顯見自督導式學習潛力無窮、值得持續研究。

利用AI/ML助長企業競爭力

AWS AI/ML產品經理鄭芝郁說,進入新經濟世代,我們需要透過數據,協助挖掘更多有用訊息,以提升用戶體驗、決策速度和品質及營運效率,並開創新產品與服務。

Amazon主要善用AI/ML優化用戶體驗,以促進營收成長。以Pan-European FBA為例,即透過AI/ML預測歐洲各國每日需求,進而調配庫存,好讓賣家僅需寄一份庫存至FBA,就能銷貨到各國,降低備貨門檻。

與此同時,AWS也提供多項AI/ML服務,協助全球逾10萬客戶驅動業務創新。例如東南亞電商Pomelo Fashion,利用Amazon Personalize進行行銷名單圈選、提供個性化內容推送,使整體CTR點擊率提升20%。此外Foxconn墨西哥工廠借助Amazon Forecast服務,有效預測產線需求並調配產線人員配置,每年因而節省55.3萬美元。

啟動數據思維  深化AI的經驗價值

開必拓數據執行長孫逢佑強調,欲啟動AI、須有數據思維,而數據思維即是經驗思維;隨著數據的累積,可促使AI展現越來越高的價值。

此外開必拓秉持「以始為終」原則,以客戶想要實踐的目標(如快速精準的瑕疵檢測)為導向,做出具一定完成度的AI,後續隨著經驗愈趨豐富,使AI逐步邁向完美。透過這般過程,開必拓協助製造業客戶省本增利,節約80%檢測時間、減少92%客訴。

惟鑒於部分場域所需辨識的物件極為多樣化,單靠開必拓再怎麼設計,都不足以應付多變需求;因而與客戶、設備業者三方互補合作,形成「同行致遠」效應,讓AI最終得以實現流程改善目標。

從設備智慧診斷出發  落實永續經營目標

詠鋐智能(Chimes AI)執行長謝宗震表示,企業可善用AI技術來建立智慧監控、報表管理機制,從能源管理、廠務節能、預防保養、製程優化等面向加速實現ESG。

惟傳統AI應用開發流程漫長且難以擴展,導致企業在邁向智慧永續製造時遭遇阻礙。Chimes AI自許為製造業AI軍火庫,透過企業級「No Code」AI平台、友善UI設計,讓AI更易於複製與擴展,幫助企業快步從0到1、從1到N,達成永續經營目標。

台灣塑膠工業保養中心組長鄭琦聰也現身說法,闡述如何透過Chimes AI協助打造AI模型維運系統,使模型校正時間從原本1.5天驟減為1小時,從而針對冷卻水泵、壓縮機、風車等重要廠務設施建立智慧監診機制,以提高設備穩定度,降低工安與環保衝擊。

借助邊緣運算 加速企業AI落地

宜鼎國際總經理特助張獻文說,近年各方關注AI,也帶動AI邊緣運算設備蓬勃發展。故宜鼎體認Edge AI已成趨勢,為此加強布局。

宜鼎有感於不同領域客戶,皆對AI有所需求。為協助客戶加速AI落地,著手強化軟硬體整合,透過旗下AI iCAP雲服務提供iSeries Software Tool / SDK,可針對不同模組埋入軟體,方便SI抽取模組中數據、整合到他們的系統。

此外宜鼎也在AI iCAP中間層提供iVINNO,協助進行GPU、FPGA、ASIC異質化整合,讓客戶加速測試與部署AI應用。

另值得一提,近年宜鼎力推雙頻管理,已針對OOB頻外管理部分發展創新應用,例如以InnoAgent模組化方式,協助系統商輕易實現OOB設備的遠端快速還原,有助AI軟體公司進行包裝與加值。

終端AI崛起 記憶體角色益發吃重

華邦電子DRAM產品行銷部經理曾一峻指出,Edge/Endpoint AI模型尺寸不大,但欲進行快速計算,仍需倚靠較大記憶體頻寬來支援,故華邦特別推出對應產品。

近年大家思考能否利用手邊終端裝置或感測器承載AI?幾十MB模型雖不大,但對MCU仍顯沈重,以致有人提出TensorFlow Lite,將AI模型壓縮上百上千倍,使之運行於在MCU,支援如智慧門鈴、智慧門鎖等簡單AIoT裝置的推論。

曾一峻說,早年記憶體屈居綠葉,但在AI時代已搖身變為主角,只因要應付Access Traffic需負擔。為求改善,華邦持續精進GP-Boost DRAM產品線,新增HyperRAM產品,容量介於4~32MB,足以支撐經過壓縮的小模型,而頻寬效能達250MHz,並支持16個I/O,要執行某些簡單推論並無問題。

總之,遙望AI的大未來,還有許多值得我們持續探索、精進的空間。企業唯有掌握AI技術趨勢、培養更完善的決斷能力,才能真正駕馭AI、將智慧應用觸角伸展到各營運構面。

關鍵字