Google 近期與美國五角大廈簽署一項協議，允許國防部在機密任務中使用包含 Gemini 在內的強大 AI 模型。不過，這項決定卻在 Google 內部引發強烈的反彈情緒。
超過 600 名 Google 員工連署向執行長 Sundar Pichai 發出公開信，強烈要求公司拒絕將 AI 系統用於機密軍事工作。隨著 Google 加入 OpenAI 與 xAI 的行列，將 AI 技術引入軍事網路，一場關於道德底線與利潤的爭議正在展開。
逾 600 名員工的擔憂：進入機密網路後，Google 將失去 AI 控制權
對於公司決定參與機密國防行動，許多 Google 員工感到震驚與羞愧。Google DeepMind 的資深研究員 Andreas Kirsch 就在社群媒體上直言：「我對 Google 簽署將我們的 AI 模型用於機密任務的協議感到無語，坦白說，這是可恥的。」他進一步批評，這是一筆短視近利且會失去外界信任的貪婪交易。
員工們在寫給高層的公開信中強調，AI 系統存在犯錯的可能，且能夠集中權力。他們最核心的擔憂在於，一旦這些 AI 模型被部署在與外部網路完全隔離的「機密環境」中，Google 將完全失去對其技術最終用途的控制權，無從得知美國國防部會如何使用它們。因此，作為技術的開發者，他們深知自己有責任防止這些技術被用於最不道德且危險的用途。
「合法用途」條款背後，Google 無權否決軍方如何使用 AI
這些 Google 員工的擔憂並非空穴來風。這項合約允許五角大廈將 Google 的 AI 技術用於「任何合法的政府用途」，雖然合約文字中包含一段看似保護性的聲明，指出 AI 系統「不打算也不應用於國內大規模監控，或在沒有適當人類監督和控制的情況下用於自主武器」，但獨立智庫法律與 AI 研究所的資深研究員 Charlie Bullock 點出，諸如「不打算」這類建議性字眼，在法律上根本不具備任何約束力。
更令人擔憂的是，合約條文同時明訂，Google 無權控制或否決政府合法的營運決策。此外，政府甚至可以要求 Google 協助調整或放寬 AI 的安全設定與過濾器。這點與 OpenAI 保留了對自身「安全防護機制（safety stack）」的完全裁量權形成強烈對比。由於軍方的機密網路與公共網路處於「實體隔離」（air-gapped）的狀態，Google 根本無法得知軍方輸入了什麼指令、產生了什麼輸出，或做出了什麼決策，這使得任何防護承諾在現實中都難以真正落實。
棄無人機競賽卻簽機密合約：Google 搖擺不定的道德底線
回顧歷史，這次的簽約與 Google 過去的立場形成強烈對比。早在 2018 年，Google 曾因數千名員工的強烈抗議，選擇退出分析無人機監控影像的五角大廈合約「Project Maven」（瑪文計畫），該計畫隨後由資料分析公司 Palantir 接手，並為其帶來了價值高達 130 億美元的業務成長。 然而，為了替未來的豐厚國防合約鋪路，Google 在去年悄悄更新其 AI 道德準則，移除了「不將 AI 用於武器或監控系統」的承諾。
然而，Google 內部的政策標準卻充滿矛盾。就在確認簽署這項機密 AI 協議的同一天，有報導指出，Google 其實在今年二月因為內部道德審查未過，而悄悄退出五角大廈一項價值一億美元的語音控制自主無人機群競賽。
另一個極大的內部矛盾是，今年稍早 AI 新創 Anthropic 因拒絕五角大廈的「任何合法用途」條款並堅持保留防護機制，而遭軍方列為供應鏈風險。當時有超過 900 名 Google 員工連署支持 Anthropic 的底線，但如今 Google 卻不僅接受軍方的條款，同時還對 Anthropic 投資高達 400 億美元。
現在，Google 正試圖在「提供通用 AI 模型的存取權」與「直接打造專門的致命武器」之間，劃出一條微妙的道德界線。然而員工們看透了這層矛盾：在無法進行任何外部監控的機密軍事網路中，一旦公司同意將技術用於任何合法用途，並交出安全設定的調整權限，這條所謂的道德界線就變得毫無意義。這不只凸顯科技巨頭在商業利益與企業道德間的拉扯，也讓外界對 AI 武器化的未來充滿隱憂。
＊本文開放合作夥伴轉載，資料來源：《The Information》、《Business Insider》、《The Guardian》、《The Next Web》，圖片來源：Unsplash
