Physical AI產業化的安全缺口

前兩個世代的機器人發展，安全框架的設計前提都是「確定性」。

第一代被鎖在柵欄裡執行固定動作；第二代走出柵欄，但沿著預先規劃的路線移動。不論哪一代，系統在特定輸入下會做什麼，工程師都能事先預測，安全標準也是在這個前提下建立的。

第三波機器人的期待是「自主性」，能在非結構化環境中做判斷、應對未曾見過的情境。但自主性本質上隱含「不確定性」，而這正是現行機器人安全框架從未真正處理過的問題。這個矛盾在近期的產業與學術會議上，被業界與研究機構眾人獨立點出，並從不同角度收斂到3個層次的問題。

第一個問題：停機不等於安全。最具體的觀察，來自一家德系安全運動控制廠商。傳統工業機器人的安全設計，預設「靜止等於安全」的前提，這個前提撐起 ISO 10218 近二十年。問題是，雙足機器人停下來之後，危險並沒有消失。一台高一百七十公分、重七十公斤的機器人，靜止狀態的重心控制比傳統機器人複雜許多，更重要的是它可能倒下。該廠商的工程師指出，現行安全停止計算框架尚未涵蓋雙足機器人的倒落風險；若要補入倒落半徑這個變數，整條公式需展開為7個變數的加總，涵蓋倒落區域、人機趨近距離、制停距離、感測器偵測範圍，以及位置與狀態的不確定性。

一家歐系車用MCU大廠在ICRA 2026的產業場次，從半導體驅動IC角度獨立量化「安全停機（STO）」的5個根本侷限：無法控制減速中的肢體運動、無法抵抗重力導致的倒落、無法跨關節協調出安全姿態、無法在故障時提供力矩回饋、無法處理局部失效的連鎖反應。同一場次，一家德系協作機器人廠商明確表示功能安全認證已是部署前提而非事後程序。3個產業背景，同一個結論：停止，不是安全狀態的終點，而是另一種危險的起點。

延伸報導專家講堂：ICRA 2026觀察：如果機器人開始刮你鬍子了

第二個問題：測試基準的缺席。德國Fraunhofer IPA，歐洲大型應用研究機構之一，購入一台市售機器人，用自行建立的66項評估框架跑完第三方測試。結果顯示：手臂在中等負載下不到2分鐘就過熱關機；碰撞力測試結果超過500牛頓（N），明顯超出ISO/TS 15066對多數接觸場景的規範範圍；藍牙連線存在安全漏洞；機器人持續將資料傳回廠商伺服器，且未見於任何說明文件；電池續航不到2小時。這些問題有賴第三方主動測試才得以浮現；現行規範並未要求廠商揭露。展場上看到的，都是精心設計的成功展示。

第三個問題，也是最難處理的一層：VLA讓安全評估框架的根本假設失效。傳統安全框架依賴「風險可被量化」的假設，識別危害類型，估算發生機率、暴露頻率與傷害程度四者相乘，得出危害評分。ADAS產業對這個框架的侷限早有認識——感知模型即使按設計運行，仍可能在特定情境下輸出危險決策，SOTIF（ISO/PAS 21448）正是為此而設計，專門處理「預期功能本身的不足」。但即使如此，ADAS 的操作場域相對受限。

延伸報導專家講堂：VLA（Vision-Language-Action）機器人的新智慧引擎

SOTIF的長尾問題至今仍未完全解決；VLA機器人的操作環境遠比道路開放，連SOTIF也難以直接套用。因應這個困境，目前出現2條技術路徑：建立不信任主控制器的獨立安全監督層，以及在每個關節配置具備功能安全認證的MCU，讓安全判斷發生在關節層級。

兩條路徑底層邏輯一致——用確定性系統監督非確定性系統——但都尚無正式認證，各自在等標準追上來。

這不只是工程問題，也是法律問題。前美國消費者產品安全委員會主席Elliot Kaye在Humanoids Summit提出的問題很具體：當機器人在工廠傷害工人，責任在製造商、操作者，還是AI模型開發者？自駕車產業已提前示範安全事故如何反向改變監管態度。2023年Cruise自駕車在舊金山發生牽涉行人的交通意外，整個部門被迫停止運作，一次事故讓整個產業的發展付出代價。機器人在工廠傷人，法律環境只會更複雜。

Kaye指出：贏得部署競賽的，不是最好的展示，而是最快通過買方法務審查的那一家。

誰在定義標準，誰就在定義市場的進入條件。工業機器人時代已有前例：ISO 10218的主要起草機構，都是在這個市場有長期積累與部署數據的業者，後進者即便技術趕上，標準解釋權仍有落差。機器人功能安全的對應標準目前尚未成形，但很可能在2028到2030年之間建立起來。今天各方關注的是誰能做出最好的機器人；幾年後市場真正競爭的，可能是誰能最快證明它足夠安全。