關於 AI 可能威脅人類的論點，科學家過去已經多次提及，然而，擁有「深度學習教父」稱號的蒙特婁大學教授 Yoshua Bengio，最近更主動發出警告，指出產業界目前正大力發展的 AI 代理功能，總有一天會失去控制。
當 AI 代理出現自己的想法…
在近日上線的一場 Podcast 節目中，Yoshua Bengio 及麻省理工學院教授兼生命未來研究所所長 Max Tegmark，談到了他們對 AI 代理及通用人工智慧（AGI）的相關看法。
這兩位頂尖科學家都擔心，人工智慧產業界正在大力推動的「AI 代理」或「代理式 AI」，雖然會加速世界朝 AGI 的方向前進，卻也同時充滿著難以預測的風險。
隨著科技不斷發展，Yoshua Bengio 表示，未來的 AI 代理可能會冒出「自己的想法」，即擁有「自主權」及自我思考能力，換句話說就是跟人類一樣，懂得利用自身知識來達成目標，同時又被允許做出代理行為。
如何不觸動 AI 的自我保護？
Yoshua Bengio 認為，其實發展 AI 代理就是人類打造 AGI 的方式，我們正試圖讓 AI 成為徹底瞭解這個世界上所有事物的代理人，接著讓它們採取相應行動；然而，這項理想與目標的背後，實際上是個非常危險的命題。
Yoshua Bengio 進一步指出，推動 AI 代理並打造 AGI，就像是人類於某個星球上，創造出了一個全新物種，或者是全新的智慧實體，但是卻不知道它們的行為，是否能夠符合人類需求。
隨著 AI 技術越來越進步，人工智慧變得越來越聰明，Yoshua Bengio 認為，AI 可能會開始出現「自我保護」的想法，同時當 AI 擁有了自己的目標，人類就會接著陷入困境。
「人類真的想要跟比自己更聰明的實體競爭嗎？這不是一個很讓人放心的賭博！」Yoshua Bengio 強調，人類發展科技時必須多加思考，如何才能不觸碰到 AI 想要發起自我保護的開關。
工具化 AI 更加安全、可控
生命未來研究所所長 Max Tegmark 亦認同上述觀點，並指出人工智慧產業界的前進方向，應該是大力發展「工具化 AI」，也就是為了特定、狹隘目標而創造的 AI 系統，同時這些 AI 工具不一定要擁有代理能力。
Max Tegmark 表示，即便只是工具化 AI，其能力依然十分強大，比方 AI 可以告訴人類如何治療癌症，或者讓 AI 僅擁有「一部分的代理能力」，例如自駕車系統；在工具化 AI 的規格下，人類依然可以獲得極高、極可靠的保證，確保自己能夠控制 AI 的所作所為。
Max Tegmark 進一步強調，從樂觀的角度來看，只要產業界足夠堅持，並在廠商開發出功能強大的 AI 系統之前，首先訂下一些基本的安全標準，人類就能於享受 AI 帶來的創新之餘，確保一切得以安全、可控的發展。
為 AGI 時代事先準備防護網
未來生命研究所（Future of Life Institute）曾經於 2023 年，呼籲業界暫停發展可以跟人類競爭的 AI 系統及 AGI，同時指出現在已經是時候採取行動，為 AGI 可能造成的衝擊設下防護網。
Max Tegmark 直言，在人類想出如何控制之前，就早一步造出比自己更加聰明的東西，這種事情顯然太過瘋狂。
OpenAI 執行長 Sam Altman 曾經表示，AGI 將比外界想像更快到來，不過他也刻意淡化了 AGI 可能會對人類造成的負面影響，僅僅只希望通用人工智慧早日實現。
立即下載《2025 AI 工具應用報告》
【推薦閱讀】
◆ 曾拒幫美國監視人民，如今 Google 收回「不把 AI 當武器」承諾
＊本文開放合作夥伴轉載，資料來源：《CNBC》、《The Verge》。首圖來源：Bing AI
