隨著 AI 技術在軍事領域的應用日益受到重視，五角大廈正積極將 AI 工具部署至更高敏感度與機密等級的網路。近日，美國國防部宣布內部企業級 AI 平台 GenAI.mil 自推出以來快速擴張，已成為推動國防部轉型為「AI 優先」文化的重要基礎設施。
一名不具名的官員向路透社透露，五角大廈現在正「採取行動將前沿 AI 能力部署至所有機密層級」，以支援更廣泛且關鍵的國防作業需求。作為此擴張計畫的關鍵一步，五角大廈正式與 OpenAI 達成合作，將 ChatGPT 整合進 GenAI.mil 平台。這項合作將使約 300 萬名國防部人員可在授權範圍內使用 ChatGPT，以支援資料整理、任務規劃與行政作業等用途。據傳，OpenAI 內部曾對此有過一番辯論，部分員工支持與軍方合作的原因之一，是為了避免讓 xAI 及其模型 Grok 取得競爭優勢。
這次合作，OpenAI 為軍方提供的是「客製化整合版」的 ChatGPT，部署於國防部既有的政府雲端基礎設施中，而非直接連接一般的消費級產品，進一步確保數據處理符合國防數據的安全規範。不過，OpenAI 發言人強調，目前的協議僅限於透過 GenAI.mil 進行「非機密（unclassified）」用途的使用，若要擴展至機密網路，則需要簽署新的協議或修改現有合約。
五角大廈要求 AI「無限制部署」，OpenAI 接受、Anthropic 退出
這項目前仍限於非機密用途的合作，並非五角大廈對 AI 的最終期待。《Semafor》報導，五角大廈在與 AI 廠商洽談合作時，明確要求模型必須能「無限制部署」，意即用於「所有合法用途（all lawful uses）」，這代表無論是基於道德或技術理由，AI 公司都不能對具體的使用場景保留最終否決權。
OpenAI 最終接受這項條件。不過，OpenAI 採取的折衷方案是提供與非軍事用戶相同的核心模型，這代表該模型仍保有既有的標準安全護欄（standard guardrails），並可能在預設情況下拒絕某些被禁止的指令。因此 OpenAI 雖然接受了「所有合法用途」的條款，但模型本身的防護機制並未完全移除。
相較之下，競爭對手 Anthropic 則因堅持對模型用途保有更大的控制權，讓談判陷入僵局。Anthropic 擔憂自身技術可能被用於不可靠或危及生命的場景，因此要求更嚴格的監管權限，但五角大廈拒絕這些額外的控制要求，這也讓 Anthropic 的 Claude 模型目前仍未被納入 GenAI.mil 平台，目前僅能透過第三方在部分機密環境中使用。
《路透社》指出，五角大廈正同步向 OpenAI、Google 和 xAI 等 AI 公司施壓，希望模型能進一步擴展至機密網路。這顯示「廣泛部署」且不受過多限制，已成為當前美國軍方評估合作夥伴的重要前提。
專家警告：AI 誤判風險在機密環境可能被放大為致命後果
儘管 AI 在軍事行政與分析上的潛力巨大，但將 AI 引入高機密與高風險環境仍引發專家強烈擔憂。《路透社》引述 AI 與國防領域專家的看法指出，生成式 AI 仍存在產生不準確或虛構內容的風險，雖然目前的應用多集中在資訊合成與決策輔助，但專家仍警告，「此類錯誤若發生在機密環境中，可能會造成致命後果」。
例如，當 AI 被部署在機密網路、用於情報分析或作業輔助時，即便模型本身並非直接用於控制武器發射，其輸出的分析結果仍可能間接影響指揮官的重大決策。因此如果指揮官過度依賴 AI 提供的錯誤情報，可能導致誤判形勢或錯誤打擊目標。
除了誤判風險，專家也提出了資安隱憂。公共公民組織（Public Citizen）專家指出，即使是在隔離的政府基礎設施中，處理敏感數據的 AI 系統仍可能成為網路攻擊的目標，這類龐大數據集的依賴性本身就存在必須審慎管理的漏洞。
面對外界質疑，OpenAI 與五角大廈皆強調安全機制仍然存在。然而，《Semafor》指出，在五角大廈要求「無限制部署」且 AI 公司無法審核具體軍事用途的前提下，AI 公司實際上難以有效監督模型在戰場或機密行動中的實際使用方式。《Semafor》科技編輯 Reed Albergotti 在評論中提到，由於 AI 是史上最通用的軟體技術，因此即使有合約規範，「也很難保證絕不會被濫用，或被用於有問題的場景」。
五角大廈正以前所未有的速度拓展 AI 應用，並將效率與戰略優勢置於核心位置。然而，這也迫使 AI 公司在商業機會、安全護欄與倫理責任之間做出取捨，因為當「無限制部署」成為合作前提，AI 能力被放大的不只是生產力，也包括誤判風險與資安隱憂。因此，這場實驗的代價，仍有待時間驗證。
＊本文開放合作夥伴轉載，資料來源：《Reuters》、《Coin Central》、War.gov、《SEMAFOR》，首圖來源：Unsplash
立即報名 3/3「AI 智慧大工廠」論壇台北場，解密 Agentic AI 如何重塑「超自動化」工廠
