近年機器人領域的趨勢之一，就是將機器人本身的控制權，交給生成式人工智慧模型，但由 AI 負責控制機器人卻也帶來另一項問題，那就是 AI 並不像傳統演算法那樣，具備一定程度的可預測性。既然如此，機器人製造商又該如何確保，自身所開發的人形機器人足夠安全？
為此，美國卡內基美隆大學「安全人工智慧」實驗室主任 Ding Zhao，幾乎將整個職業生涯，全都投入機器人安全問題的相關研究，並聯手資深新創企業高管 Kyle Wong，以及機器學習工程師 Simo Rachidi，共同創立 SafeWorld 公司，期待替業界尋找解決方案。
評估 AI 模型風險與取得信任
Ding Zhao 指出，機器人產品的安全挑戰，事實上涉及兩個部分。首先，開發者如何針對高度先進的生成式 AI 模型進行機率性評估，即如何評估並承擔一個具有機率不確定性的系統所帶來的風險，其次則是人類對於機器人的信任問題，若機器人產品想得到廣泛部署，這兩個面向的解方就缺一不可。
SafeWorld 表示，公司透過模擬環境評估 AI 機器人的控制系統，同時於環境內部配置逼真的人體模型執行測試，整體來說有點類似特斯拉（Tesla）或 Wayve 等公司，於模擬環境內實驗自駕車於行駛途中，可能遇到的各種突發狀況，藉此研究實體 AI 與機器人如何做出適當反應。
不過 Ding Zhao 認為，對於機器人來說，應付現實世界的突發情況比起自駕車更加困難，因為機器人通常運作於「非結構化」環境中，它們所處的每座工廠、每個生產設施，皆遵循不同的安全標準。
模擬其實很困難，因為人不可預測
Kyle Wong 進一步解釋，想讓機器人安全投入作業最常見的問題之一，就是工廠內部可能存在的「視線盲區」。
舉例來說，機器人究竟要維持什麼樣的速度，或者需要多長的煞車距離，才能確保正在運作中的機器人，不會跟廠內的人類員工發生碰撞？又比如當有人在搬運箱子時，機器人是否可以成功偵測到位於箱子後方的人類？
為了回答這些實務上的問題，SafeWorld 在 Genesis、MuJoCo 等模擬器中，打造出工廠視線盲區的數位孿生版本，接著導入由實際軟體驅動的待評估機器人模擬模型，測試數千種人類模型與 AI 機器人模型進行互動的場景。
Ding Zhao 說，將資訊、模型全都投入虛擬環境中進行模擬，表面上看起來非常簡單，但實際上卻十分困難，因為人類的行為本身就難以預測。
在 SafeWorld 建構出來的模擬環境中，人類「絆倒」和「跌倒」之後，如何影響機器人的後續動作，就是得到團隊大量實驗的例子。Kyle Wong 指出，假如不是在模擬環境中進行實驗，人類就得親自去絆倒、跌倒，然後觀察機器人的反映，這種事情對人類來說肯定十分折磨。
跟開發商競爭，實地驗證依然重要
目前市場上專注於機器人安全性驗證的業者，並非只有 SafeWorld，該公司的競爭對手之一，就是機器人製造商內部使用的測試工具。
對此 SafeWorld 團隊認為，其實機器人製造商仍會希望由第三方業者來驗證工作成果。
Ding Zhao 補充指出，很多人低估了解決邊緣案例的難度，單一個案很容易處理，可是經過大規模部署後的機器人卻是另一回事，尤其是在廠商或消費者，可能從來沒有接觸、操作過機器人的情況下。
只不過，跟 SafeWorld 合作開發安全模擬系統的實體人工智慧與機器人新創公司 Gritt Robotics 技術長 Vishal Dugar 也表示，僅透過數學推導去驗證一套系統是否安全，本身仍有一定困難。
Vishal Dugar 說，所謂安全性的保障，必然得透過實證來完成，尤其當機器人與人類工人並肩作業時，就必須考量各種可能發生的情境，接著再於實際操作中進行驗證。
此外，人類的外觀形式多種多樣，身體也隨時會呈現不同的姿態，例如跪著、站著、蹲著，有時也會絆倒、跌倒，或是正在奔跑等；模擬環境要考慮人類在場所中任何可能的行為，甚至也要考量人類外觀的各種差異，比方衣著、體型、身形、身高、膚色等。
機器人安全有需求，市場仍待開發
無論是對於機器人領域中的生成式 AI，或者強調安全性驗證的 SafeWorld 公司來說，目前產業的整體發展仍在早期階段。
SafeWorld 並不諱言，團隊還在努力探索產品的最佳營運模式，究竟是要打造外部使用者操作平台，還是採取服務導向面對客戶，目前皆是可能的選項，但 SafeWorld 堅信他們解決問題的方向正確。
Ding Zhao 表示，SafeWorld 很可能會成為機器人實體安全領域中，首家實現盈利的公司，因為只要有廠商想要部署實體機器人技術，就必須付費委託團隊處理相關事宜。
日前 SafeWorld 宣布獲得 1200 萬美元首輪融資，由 Shine Capital 和 a16z Speedrun 領投，Box Group、卡內基梅隆大學捐贈基金、Innovation Endeavors 及 SV Angel 亦有所參與。
【推薦閱讀】
◆ 美國上百家人形機器人公司，機器人投資基金執行長為何只看好特斯拉、Figure AI 與 Apptronik？
◆ 「硬體是 AI 的牙齒」：Matter 募得 4.5 億美元，押注機器人與下一波硬科技
◆ 【Atlas 頭部設計邏輯】拿掉人臉改用燈環，讓人類同事秒懂機器人在看哪裡、做什麼
＊本文開放合作夥伴轉載，參考資料：TechCrunch、SafeWorld，首圖來源：SafeWorld
（責任編輯：鄒家彥）
