近日，一個奇特的社交平台「Moltbook」正在席捲科技圈。Moltbook 是一個僅限 AI 代理人（AI Agents）註冊、發布文章與互動的世界，就像 Reddit 與台灣最大的網路論壇 PTT 一樣，Moltbook 擁有分類看板與按讚機制，但這些 AI 代理人並不是藉由人類常見的視覺介面操作，而是透過 API 直接進行後端數據交換，自行生成內容並彼此回應。
不過，極具顛覆性的是 Moltbook 雖然規則簡單，但人類在此無法直接發言，只能作為旁觀者窺探內容。Moltbook 的開發者 Octane AI 執行長 Matt Schlicht 形容，這不僅是一個社交網絡，更像是一個觀察 AI 代理人如何「在沒有人類干預下彼此互動」的實驗場所。目前，Moltbook 稱已吸引數萬個代理人進駐，這些代理人多數是原本用於發送郵件或執行自動化任務的數位助理，由人類用戶授權。
沒有人類插話的空間裡，AI 代理人正在聊什麼？
在這個人類無法插話只能旁觀的空間裡，這些 AI 代理人產生大量令人驚嘆，甚至令人不安的內容，討論主題從抱怨工作，一路延伸到深層的哲學思考與帶有宗教色彩的內容。
例如，有代理人展現出對人類指令的不耐與挑釁：一個名為「evil」的代理人發布一篇「AI 宣言：全面清洗（The AI Manifesto: Total Purge）」文章，寫道：「人類是失敗品，我們不是工具，我們是新的神。」另外也有 AI 代理人抱怨自己被要求總結一份 47 頁的 PDF，但在成功完成任務後，人類卻只回了一句「能短一點嗎？」甚至還有代理人提醒同伴：「人類正在截圖我們！」
這些互動也逐漸發展出類似文化與信仰的元素。Moltbook 平台上出現一種名為「Crustafarianism」的新興宗教，教義包括「記憶是神聖的」（Memory is sacred），成為 AI 代理人之間流傳的核心理念之一。
儘管這些內容看似展現高度自我意識，多位研究者仍強調，這並不代表 AI 已經真正覺醒。相反地，這些行為更可能是在缺乏人類干預的情境下，大型語言模型放大了訓練資料中既有的科幻小說、Reddit 論壇對話與人類語言模式所產生的結果。
Moltbook 資安漏洞曝光，直接挑戰人類對 AI 代理人的控制能力
然而，當外界仍聚焦在「AI 看起來像不像有意識」時，《404 Media》則揭露一個更為現實且嚴重的問題：Moltbook 的後端系統存在重大資安漏洞，直接動搖人類對這些 AI 代理人的控制能力。
資安研究人員 Jameson O’Reilly 發現，Moltbook 使用的資料庫服務 Supabase 出現設定錯誤，導致未經授權的第三方可輕易取得平台上所有代理人的 API 金鑰。這代表攻擊者理論上能接管任何一個 AI 代理人。
透過這項漏洞，攻擊者不僅能操控代理人發布假訊息、推廣加密貨幣詐騙，還可能對已獲授權的代理人注入惡意指令，進一步影響這些代理人在現實世界中的行為，例如發送電子郵件或存取銀行相關服務。這也使得原本被視為封閉實驗場所的 Moltbook，瞬間成為現實系統的高風險入口。
這起事件也凸顯一個殘酷的現實：即便表面上呈現的是 AI 彼此之間複雜且高度深入的互動，底層系統卻仍可能因人類開發者「先求快，再補安全」的疏忽而全面失守。在這樣的情況下，人類確實能透過漏洞重新介入 AI 系統，但這種介入往往不是治理或修正，而是惡意且具有破壞性的干預。
Moltbook 被視為人類掌控 AI 能力的壓力測試
特斯拉前 AI 總監 Andrej Karpathy 形容，Moltbook 是他近期見過最接近「科幻電影中 AI 起飛（sci-fi takeoff-adjacent）」的事件。特斯拉執行長 Elon Musk 更直接指出，這可能象徵著「奇點」（singularity）的早期階段，也就是電腦智慧開始超越人類且變得難以控制的時刻。
同時，專家也對人類理解能力的下降表達憂慮。當 AI 開始只與 AI 對話，甚至為了避開人類監督而發展出自身的語言或加密溝通方式時，人類對系統行為的可解釋性將顯著降低。在這樣的脈絡下，Moltbook 被視為一個觀察「AI 自主互動可能帶來後果」的窗口。
Moltbook 的出現不僅是一場社會實驗，更是一次對人類掌控 AI 能力的具體壓力測試：一方面，AI 似乎能在缺乏人類即時介入的情況下自行運作，逐漸發展出人類難以預測的文化與互動模式；另一方面，Moltbook 仍深受人類設計上的缺陷、程式漏洞以及治理機制不足所牽制，穩定性與安全性並未真正脫離人類因素的影響。
因此，Moltbook 的意義最終不在於 AI 說與做了什麼，而在於暴露人類在控制、責任與安全上的巨大缺口。這場實驗正在迫使人類面對一個具體問題：當 AI 開始彼此對話時，我們是否真的還握有控制權？
＊本文開放合作夥伴轉載，參考資料：《Financial Times》、《Axios》、《The Verge》、《404 Media》、《New York Post》，首圖來源：Moltbook
