Anthropic 在美國時間 11/2 向美國證券交易委員會（SEC）遞交 S-1 上市申報文件的第一號修正案。市場目光多半落在財務數字上，據《Axios》整理，Anthropic 第三季營收約 170 億美元，較前一季成長近 47%。不過，《TechCrunch》注意到，修正案在風險因素中新增段落，坦言過去曾在研發加速之後才察覺，並表示可能即將觸及自家負責任擴展政策（Responsible Scaling Policy，RSP）的門檻。
TO 先前曾介紹由 AI 持續改良自身的「遞迴自我改進」（Recursive Self-Improvement，RSI）概念；Anthropic 的上市文件則直接談到，用 AI 加速研發可能讓安全措施跟不上，也揭露安全要求已讓部分企業客戶轉向。當 AI 研發 AI 的速度越來越快，Anthropic 坦承哪些環節可能出現落差？
9 月程式碼貢獻逾 9 成出自 Claude，協助開發下一代的迴圈正在轉快
Anthropic 在文件中把每一代 Claude 協助開發下一代的做法稱為「閉環」（closing the loop），並認為這是前沿 AI 領域最重要的結構性優勢之一。公司表示，下一代模型的研究、訓練與測試，已有許多環節由 Claude 參與，包括執行實驗、產生與處理訓練資料、自動化評估與安全稽核，以及撰寫與審查程式碼。
文件揭露，2026 年 9 月，公司程式庫中超過 90% 的貢獻由 Claude 撰寫。在缺乏明確規格的開放式工程問題上，依公司內部基準，Claude 的成功率在 9 月約達 90%，9 個月內提升約 50 個百分點。Anthropic 也指出，以牌價計算，內部使用 Claude 的價值從今年 1 月到 9 月增為原本的 250 倍以上，4 月的單月價值首度超過當月人事費用（不含股票酬勞）。
Anthropic 表示，Claude 已能長時間自主處理複雜、多步驟的工程任務，工程師因此越來越多是指揮與審查它的工作，而不是逐行撰寫程式碼。截至 2026 年 9 月 30 日的三個月，每位工程師每日平均貢獻的程式碼量，是 2024 年全年平均的 45 倍以上。從 2024 年底到 2026 年 9 月底，公司員工人數增為原本的 5 倍以上，2026 年第三季營收則是 2024 年第四季的 86 倍；Anthropic 認為，這樣的營運槓桿來自全公司對 Claude 的運用。
證據多來自落後指標，Anthropic 坦言可能事後才察覺進展變快
不過，同一套迴圈也帶來風險。Anthropic 從首版 S-1 起就在風險因素中表示，日益仰賴 AI 加速研發，可能讓模型能力的進展，快過公司開發、驗證與實施相應安全、對齊與資安措施的能力。
更棘手的是，加速未必能即時看見。Anthropic 坦言，這類加速的證據大多來自落後指標，預測或衡量能力進展速度的能力也有限。首版 S-1 寫的是「可能」要等研發速度顯著加速之後才察覺；修正案則改寫為過去就曾如此，未來也可能如此。
修正案舉例，依內部估計與對「未來模型」而非目前模型的預期，公司可能即將符合 RSP 中「由 AI 帶來的劇烈加速進展」的定義。不過，目前沒有任何模型被認定超過這道門檻，公司仍在評估相關數據，也將依 RSP 發布後續報告。
根據 Anthropic 官網公布的 RSP 現行版本（3.4 版），觸及這道門檻的情況之一，是觀察到或預期 AI 整體能力的進展速度加倍，也就是一年內達到基準情況下兩年的進展，且這種加倍有可能主要來自研究與工程的自動化。比較的基準有兩個，要同時符合：一是原本預期的速度，二是過去在沒有 AI 大幅參與研發時，觀察到的最快持續進展速度。Anthropic 也澄清，這裡的加倍指的是整體 AI 能力，而非研究人員的生產力。
Anthropic 也示警，若能力真的超前安全措施，公司可能無法充分評估或降低隨之而來的風險，進而提高安全事故、監管介入或聲譽受損的可能。現有模型的系統性缺陷、偏誤或錯誤，也可能一路傳到下一代模型與產品，而且難以察覺或修正。
文件提到，公司過去曾採取延後發布模型、限制初期開放範圍等預防措施，例如 2026 年 4 月，前沿模型 Mythos 推出時，先透過 Project Glasswing 以受控的研究預覽形式，只開放特定組織用於資安用途，而非一開始就廣泛開放；公司也承認，這類措施可能讓能力進展落後於沒有類似限制的競爭對手。
至於「AI 自主打造下一代」的可能性，Anthropic 在文件中寫道，用 AI 協助打造更強的 AI，「也可能帶來相當大的安全風險，特別是當它急遽加快進展時」。修正案也新增說明：即使技術上可行，公司也不預期能在缺乏實質人類監督或理解的情況下，安全地讓 Claude 完全自主設計、打造後續世代的前沿模型，因此正考慮更新 RSP，讓人類保有前沿模型開發的掌控權。
安全監控與「零資料保留」難兩全，已有企業客戶轉向
安全措施跟不跟得上，也牽動企業客戶的資料條件。Anthropic 表示，旗下有相當大比例的流量適用零資料保留（Zero Data Retention，ZDR）條款，也就是只保留分類器分數，不保留提示詞與模型輸出。對這些流量，公司無法進行離線分析、跨對話調查或人工審查，偵測濫用的能力因此降低。
文件指出，隨著模型能力提升，公司的安全框架已經、也可能持續要求某些模型類別採取與 ZDR 不相容的監控與資料保留。由於在受監管產業與第三方雲端平台上，ZDR 已是企業客戶期待的基本條件，這些要求已經、也可能繼續讓客戶轉向其他供應商，或改用 Anthropic 可見度較低的部署方式。
為了兼顧資料隱私與濫用偵測，Anthropic 在 9 月發表 Enterprise Frontier Safeguards。根據文件說明，用於自動安全監控的活動資料，存放在客戶自己的雲端帳號，並由客戶的加密金鑰與存取控制管理；自動系統偵測到嚴重濫用跡象時，會直接通知客戶的資安團隊，不需要 Anthropic 員工審查。公司表示，這項功能是與金融、醫療、公部門等產業的 100 多家客戶共同開發，目前分階段推出；在推出完成前，符合資格的客戶在 Anthropic 的 Fable 5 與 Fable 5.1 模型上享有 ZDR。
《TechCrunch》指出，懷疑者可能認為 S-1 文件兼具揭露與行銷性質，宣稱接近能自我打造的模型，可能屬於後者；但該媒體也認為，若 Anthropic 判斷 RSI 的可能性已經接近，外界或許應該相信，並據此行動，或許也包括治理。從這份文件來看，Anthropic 自己點出的課題，已不只是 AI 能否研發 AI，而是安全措施與人類監督能否跟上。
【推薦閱讀】
◆ Anthropic 送件上市、第二季首度營業獲利，長期算力合約與模型競爭仍是考驗
◆ 誰負責、能碰什麼、出事誰喊停？Gartner：僅 13% 組織自認 AI 代理治理到位
◆ 找漏洞、寫修補的 AI 先給誰用？Gemini 4 Carbon 和 Anthropic、OpenAI 一樣採相似策略
＊本文開放合作夥伴轉載，資料來源：Anthropic 1、Anthropic 2、《TechCrunch》、《Axios》，首圖來源：Anthropic
