DIGITIMES

通用模型會吃掉Physical AI嗎?

徐宏民
2026-10-23
AI語音摘要
00:44

2026年9月初GPT-6 Astra發表後,研究社群很快就把它接上實體AI(Physical AI)機器人評測,部分成績還超過使用大量機器人資料訓練出來的專用模型。這代表什麼?通用模型會吃掉Physical AI嗎?

Astra只是其中一個例子。依現在的公開職缺,2家美國大模型公司都在招募機器人工程師,另一家大模型公司也公開測試通用模型控制機器人的可能方式。這些公司看來都想從數位世界走進實體世界。

Physical AI這幾年的進展,本來就受惠於大型語言模型。視覺語言動作模型(VLA)裡負責看懂影像與聽懂指令的視覺語言模型,不少是以小型化的開源語言模型為基礎發展出來的。用大型語言模型幫忙訓練機器人,在研究圈已經是常態。我們這一年的兩個研究也是如此:一個讓大型語言模型把長時序任務拆成階段,再由視覺語言模型判斷進度,當成強化學習的獎勵;另一個借用視覺語言模型的常識,判斷移動機器人該停在哪裡才拿得到東西。

這幾個月,通用模型能接手的環節更多了,大致有3種用法:

第一類型為直接當機器人的策略,輸出夾爪(末端執行器)要移動到的位置,再換算成關節角度。一份多所大學合作的評測,在數十個模擬任務上讓Astra零樣本上場(不給額外訓練或資訊),2026年9月評測時,成績高於40個公開機器人策略。同樣的接法退回前一代模型,成功率不到1%,可見差別主要來自模型本身的能力精進。

第二類型為與專用VLA協作。一家中國機器人公司在同一套模擬基準上測了一組雙臂任務,Astra與專用VLA單獨上場,成功率都只有1、2成。改由專用VLA執行、Astra必要時修正,成功率提高到近5成,Astra只在少數幾步出手修正。兩者擅長的看來剛好互補。需要語意理解、但動作本身簡單的任務,Astra表現較好;需要精準協調或複雜(機械)動作的,專用VLA比較強。

第三類型為當機器人研究員,有機會在Blender或模擬器裡建3D場景、寫獎勵函數、跑強化學習,失敗了自己除錯、重來。已有研究讓多個通用模型擔任程式代理人,在模擬器裡完成組裝、拆解這類長時序任務,再把解法擴增成大量示範去訓練VLA,微調後的模型上了實體機器人也有初步成效。只是這些任務是在模擬器裡離線反覆除錯完成的,不是即時控制。

這些通用模型的空間能力從哪裡來?模型公司沒有公開訓練資料,只能從公開資訊推測。從前一代到Astra的躍進,可能代表訓練時加強3D或空間相關的資料。但3D資料本來就少,2023年公開、規模較大的3D物件資料集約有1,000萬個物件,比起數十億組的圖文資料,差了好幾個數量級。以Astra為例,官方發表展示的是它在Blender裡建模,以及看多視角影像寫出CAD程式重建物件。這類工作在3D引擎裡寫程式、渲染、比對結果,可以大量反覆練習。

該注意的是,這些數字多半是發表後一個月內在「模擬器」裡測出的成功率,也沒有把模型思考的時間算進去。回到實體機器人,在一個把積木放進碗裡的測試中,Astra每次要花2、3分鐘,而專用模型幾秒就完成。另一項研究讓Astra按一個電梯按鈕,包含邊試邊學的時間,模擬與實機都要花上數分鐘到十幾分鐘。

另外,這些多半是抓取、放置這類剛體、位置對了就算完成的簡單工作。難的部分仍是接觸、物理特性、長時序與安全。插拔插頭、轉瓶蓋、拿毛巾這類動作,成功率明顯下降,常得先給示範才做得到。質量、摩擦、形變這些性質,單靠幾何資訊難以描述。

我的看法是,通用模型精進3D能力,這對Physical AI是好事。比起直接控制機器人,這些通用模型更可能成為訓練Physical AI、加速它精進的引擎,只是加速的多半是能在數位世界完成的部分。數位AI犯了錯多半可以重來,演算法在模擬裡驗證過,大致就能複製到各地;機器人犯錯,損壞的是實體設備,也可能傷到人。Physical AI的驗證最後得在實體端完成,之後還有整合、驗收、認證,以及產品問責等問題。

通用模型不會吃掉Physical AI,反而加速智能發展。任務拆解、寫控制程式、建模擬環境、產生示範資料這些能在數位世界完成的環節,可能愈來愈多交給通用模型。機器人需要低延遲,離線時也得正常運作,本地端仍要有夠快、能力夠好的小模型,但它未必由獨立的機器人模型公司提供,「有機會」由通用模型產生示範,再蒸餾而來。比較難被吸收的,是觸覺等新的感測、靈巧手這類硬體,以及整合、認證與垂直產業的製程累積。

機器人模型的競爭者,因此多了幾家原本只做數位世界的公司。這些公司在數位世界迭代很快,到了實體世界,進展的速度可能要看驗證與認證跟不跟得上。我們也看到數位世界的Agent能力,有機會加速發展,進入實體世界。

如果這兩關也找到加速的辦法,數位世界的Agent能力進入實體世界的速度,可能又會超乎我們的想像。

國立台灣大學資訊工程學系教授,曾任鴻海集團與Stellantis合資車用科技公司技術長暨副總經理,推動ADAS及智慧座艙系統產品進入全球車用市場。紐約哥倫比亞大學電機博士,專精於機器學習、電腦視覺、自駕車、機器人等領域。為訊連科技研發團隊創始成員,慧景科技(thingnario)共同創辦人,NVIDIA AI Lab計畫主持人;曾任IBM華生研究中心及美國微軟研究院客座研究員。擔任多家科技公司AI策略顧問,習慣從學術與產業雙重視角檢驗技術發展的機會與挑戰。
智慧應用 影音