DIGITIMES

如果Physical AI遭受攻擊呢?(上)入侵

徐宏民
2026-11-23
AI語音摘要
00:53

下一代實體AI(Physical AI)的全新樣貌將會是「自主性」(autonomy):機器人從柵欄裡、從預先規劃好的路線上,走進開放場域,接到一個指令,自主完成指定任務。

能力增加、自主性提高,一旦出錯,影響也跟著變大。

數位AI出錯,常先表現在文字、程式或資訊上,也比較容易撤回或修正;但機器人出錯,可能直接在實體世界造成不可逆的損害。

要避免這類損害,機器人「安全」可以先從3個層面看。功能安全(safety)處理系統本身出錯時不傷人,專欄先前談過。另外2層是資安(cybersecurity)與對抗式攻擊(adversarial attack),處理的是有人刻意讓機器人出錯。這篇先談資安,從汽車產業經歷過的說起。

延伸報導專家講堂:VLA機器人的「安全」該如何設計?

2015年,2位資安研究員透過車載娛樂系統的行動網路連線,遠端讓一輛行駛中的休旅車失去動力,也能在低速時讓煞車失靈,車廠隨後召回約140萬輛車更新軟體。資料被偷已經很麻煩,車子被掌控更可怕。想像同一款車有幾千台同時被遠端控制,就像網路上的殭屍網路(botnet),只是被操控的是路上的車。

所以車子已有嚴格的資安要求。2024年7月起,歐盟所有新車都納入規範,車廠得建立符合UN R155的資安管理系統,相關車型才能取得型式認證。美國更多了地緣政治的考量。2025年1月定案的規定,限制與中國、俄羅斯有充分關聯的特定車聯網硬體、軟體與自動駕駛軟體進入美國市場;軟體從2027年式車款起適用,硬體從2030年式起。範圍包括車載通訊模組(TCU)、藍牙、行動網路、衛星與Wi-Fi等讓車輛與外界連線的元件。

機器人呢?

機器人已經出現類似的漏洞。2025年3月,兩位研究人員發現一家機器人大廠的一款機器狗,出廠就裝了第三方的遠端連線服務。透過這個服務的網路介面,任何人都查得到哪些機器狗正在線上,不必登入就能看到它的即時畫面,預設密碼沒改的,還能被完全控制。半年後,同一批研究人員又公開該廠的藍牙漏洞。攻擊者可以取得最高權限,被入侵的機器人還能自動感染藍牙範圍內的其他同廠機器人。這幾款機型共用同一套有漏洞的藍牙設定機制,一個漏洞因此能傳遍整批。

資料被偷的風險也一樣。德國一家應用研究機構購入市售人形機器人做第三方測試,發現它持續把資料傳回廠商伺服器,說明文件裡沒有提到。另有資安公司觀察到遙測資料定時傳往境外。

問題也可能出在雲端。2026年2月,一位工程師原本只是想用遊戲手把操控自己買的掃地機器人,借助AI程式助理解析它與雲端的通訊,卻意外取得24個國家、近7,000台同款機器的存取權,可以看到即時畫面、聽到麥克風聲音,也能取得屋內平面圖。廠商隨後更新修補。這次出問題的是雲端伺服器的權限控管,一個漏洞就可能同時暴露整批產品。

車子的地緣政治考量,已經延伸到機器人。2025年12月,美國聯邦通訊委員會(FCC)把外國生產的無人機與關鍵零組件列入限制清單,新機種無法取得進入美國市場所需的認證。2026年7月,範圍擴大到機器人。具備感測器、網路連線,以及自主或遠端控制軟體的移動機器人,包括自主移動機器人(AMR)、人形與四足機器人,連掃地機器人也算在內。外國生產的新機種原則上都受到限制,軟體的定義還涵蓋AI模型權重。固定式的工業機械手臂不在範圍內,既有的認證也不會因此失效。廠商若要申請例外,得揭露股權、供應鏈與資安等資訊,並提出在美國建立或擴大生產的時程。

車子在加上產地限制之前,已經有資安認證。機器人目前還沒有像車子那樣專門的強制認證,但相關規範正陸續上路。歐盟的網路韌性法案2027年底全面推行,連網機器人得符合資安要求才能進入歐盟市場,新版機械安全法規也把防止遭惡意竄改列進基本安全要求。業界也已有行動,一家車用資安公司已把產品延伸到機器人,從部署前的攻擊驗證做到上線後的監控。

汽車產業過去的資安經驗可以借用。上市前的資安認證、出廠後的漏洞通報、軟體更新的管理、供應鏈來源的審查,車廠花了將近10年建立起來。一次軟體更新會同時送到大量車輛上,機器人用同一套韌體、同一個更新管道,情況也一樣。機器人走進開放場域的速度可能比車子更快,這些準備在大量部署之前完成,會比事故之後再補容易得多。

不過,這些做法防的都是有人入侵系統。如果攻擊者根本不必入侵呢?有人惡意誤導機器人呢?我們下篇來談。

國立台灣大學資訊工程學系教授,曾任鴻海集團與Stellantis合資車用科技公司技術長暨副總經理,推動ADAS及智慧座艙系統產品進入全球車用市場。紐約哥倫比亞大學電機博士,專精於機器學習、電腦視覺、自駕車、機器人等領域。為訊連科技研發團隊創始成員,慧景科技(thingnario)共同創辦人,NVIDIA AI Lab計畫主持人;曾任IBM華生研究中心及美國微軟研究院客座研究員。擔任多家科技公司AI策略顧問,習慣從學術與產業雙重視角檢驗技術發展的機會與挑戰。
智慧應用 影音