隨著推理模型與 AI 代理（AI Agent）崛起，人類開始要求 AI 不只給答案，也要「說明自己怎麼想」。模型展開的思維鏈（Chain-of-Thought，CoT），因此被視為觀察 AI 決策過程的重要窗口，研究人員也嘗試從中辨識錯誤、欺騙或危險意圖。但 Anthropic 最新研究提出一個更棘手的問題：AI 說出口的「思考過程」，可能不是全部。
Anthropic 最新一篇由 16 位作者完成的研究發現，Claude 內部存在一個在訓練過程中自行浮現、他們稱為 J-space （J 空間）的小型工作空間，模型會在這裡「想」一些從未寫進推理文字、也沒出現在最終答案裡的概念。更關鍵的是，研究團隊開發了一套名為 J-lens（Jacobian lens）的工具，能讀出 J-space 裡這些沒說出口的念頭，甚至反過來介入、改寫 Claude 最後給出的答案。
J-space 是什麼？Claude 心裡在想、卻沒寫出來的地方
根據 Anthropic 官方部落格，J-space 有幾個值得注意的性質。它並非工程師刻意設計或寫進去的，而是在 Claude 的訓練過程中自行浮現；它的容量很小，一次只容納數十個概念，佔模型整體內部活動不到十分之一；而且它與大家熟知的思維鏈「把想法寫在草稿紙上」不同，J-space 是在神經活化中默默運作，讓模型能「想」一個概念而不必寫下來。
J-lens 借用了一個名為 Jacobian 的數學概念，它的運作方式，是為模型詞彙表裡的每個字，找出最可能讓模型在之後某個時點說出該字的內部活動樣態。要注意的是，某個樣態亮起，不代表模型正要說那個字，而是那個概念此刻「在它心上」。
J-lens 讀出的內容，往往遠超過 Claude 正在讀或寫的文字。根據該研究，當 Claude 讀到一段沒人指出過的有漏洞程式碼，它的 J-space 會浮現 ERROR；當它讀到一段其實是提示詞注入攻擊（prompt injection）的搜尋結果，J-space 會浮現 injection 與 fake；讀到一串蛋白質序列的原始字母時，浮現的是該蛋白質的生物功能；而面對多步驟數學題，中間的計算步驟會依序在 J-space 裡出現。這些內容全都沒有寫進模型的輸出。
這種「想而不說」，其實很接近人類心算時的狀態。舉例來說，人類在腦中默算 3²−2 時，中間會閃過「9」再得出「7」，但嘴上一個數字都沒念。研究者要 Claude 一邊抄寫一句無關的話、一邊在心裡算這道題，J-space 就依序浮現了「9」與「7」，而它的輸出從頭到尾只有那句被抄的話。要說明的是，這只是功能上的相似，並不代表 Claude 具有人類那樣的意識或感受。
不只是讀出來，還能「改寫」Claude 的答案
如果只是讀出這些念頭，充其量只能證明兩者有相關性，還無法確定 J-space 是不是模型真正拿來思考的地方。為了驗證因果關係，研究者用一種「抽換」（swap）技術，直接伸進 Claude 的神經網路動手改。
Anthropic 舉了幾個例子。要 Claude 默想一種運動再說出來，J-lens 在它開口前顯示答案是 Soccer；研究者把內部的 Soccer 樣態換成 Rugby，Claude 的回答就跟著變成橄欖球。在「會結網的動物有幾隻腳」這道題裡，spider（蜘蛛）這個字從沒出現在題目或答案中，卻是 Claude 內部用來過渡的一塊踏腳石；把 spider 換成 ant（螞蟻），答案就從 8 變成 6。最能說明問題的是 France 的例子：研究者只把 J-space 裡的 France 換成 China，接著分別問首都、語言、洲別等問題，Claude 的答案同步變成北京、中文、亞洲。
這代表多種不同的下游運算，都讀取了同一份被改動的內部表徵。換句話說，J-space 是模型真正拿來推理、並被多項任務共用的工作區，而不是一塊被動記錄結果的計分板。該研究也發現，J-space 與網路其他部分的連結特別綿密，某些區域讀寫它的元件數量是一般樣態的約一百倍，像個把資訊寫進去、再廣播給眾多系統取用的樞紐。
經第三方重現，卻仍有明確侷限
這項發現對 AI 安全的意義，可能不亞於它的科學價值。確保模型可信任的一個核心難題在於，外界通常只能讀到模型「寫出來」的東西，但它有大量推理是在沉默中進行的。而 J-lens 提供了一個直接讀取這些隱藏念頭的途徑。
這項研究並非只有 Anthropic 一家的說法。Google DeepMind 負責語言模型可解釋性團隊的 Neel Nanda 受邀撰寫評論，並在一個 Anthropic 沒有參與打造的開源模型 Qwen 3.6 27B 上獨立重現了核心結果。根據《Implicator AI》，他表示自己一直懷疑模型內部存在某種儲存中間變數的「工作記憶」，而這篇論文提供了目前為止最好的證據。
不過，Nanda 也把這項工具定位為在對齊稽核時用來產生假設的輔助，而不是一個他會信任、能抓到一切的偵測器。Anthropic 本身也據實列出了侷限：J-lens 只是對模型真正工作空間的近似，目前只能辨識對應到單一 token 的概念，研究者還無法得知究竟是什麼機制決定哪些概念能進入 J-space。此外，它在實際部署速度下的運算成本仍是未知數，而一個察覺到有這種工具存在的模型，是否可能學會繞開它進行推理，也還沒有答案。
它與「意識」的距離，Anthropic 選擇不表態
這項研究的靈感，來自神經科學裡解釋人類意識取用的「全局工作空間理論」（global workspace theory），該理論由認知科學家 Bernard Baars 提出，把大腦比喻成劇場：眾多專門系統在後台平行運作，但任一時刻只有一小束資訊會被廣播到整個劇場，成為我們意識到的思考。
面對隨之而來的意識提問，Anthropic 的態度相當謹慎。根據《VentureBeat》，論文明確區分了兩個概念：一是「取用意識」（access consciousness），指資訊能否被回報與用於推理，屬純功能性定義；二是「現象意識」（phenomenal consciousness），指是否真有主觀感受。Anthropic 表示自己對後者不表立場，只聚焦在前者的功能性角色。這類框架此前也引來不同意見，《Implicator AI》提到，微軟 AI 負責人 Mustafa Suleyman 今年 6 月就批評過針對 Claude 意識的臆測相當危險。
回到對產業更實際的問題：當 AI 代理的自主權愈來愈高、模型愈來愈多推理發生在「不寫出來」的內部，只監控它寫下的思維鏈，可能會漏掉真正驅動決策的依據。J-lens 儘管仍是不完美的工具，卻示範了一件事：模型的內部表徵，正浮現為 AI 安全與可解釋性下一個值得投入的著力點。
【推薦閱讀】
◆ 首個 AI Agent 端到端勒索攻擊案例曝光：JadePuffer 給 CISO 的 3 大警訊
＊本文開放合作夥伴轉載，資料來源：Anthropic、《Implicator》、《AXIOS》、《VentureBeat》，首圖來源：Anthropic
