Anthropic found a hidden space where Claude puzzles over concepts（Anthropic 發現 Claude 在概念間糾結的「隱藏空間」）

來源： MIT Technology Review（作者 Will Douglas Heaven） 原文日期： 2026-07-09

中文摘要

Anthropic 開發出一種稱為 Jacobian lens（J-lens）的新技術，得以比以往更清晰地窺探大型語言模型在回答問題或執行任務時的內部運作。研究團隊在旗艦模型 Claude Opus 4.6 中發現一個先前未被見過的隱藏區域，命名為 J-space。J-space 包含與模型即將輸出的詞語高度相關的單詞，可視為模型「說出口之前心裡在想什麼」。Anthropic 發現模型實際在做的事，往往與它聲稱在做的事不同；監控 J-space 浮現的詞彙，提供了一種新的理解與控制模型的方式，並已與開源平台 Neuronpedia 合作推出可動手體驗的 demo。

關鍵洞察

Mechanistic interpretability（機制可解釋性）持續推進：J-lens 比過往方法深入一層，揭露了模型中間層的「隱藏空間」。

模型「說」與「做」可能不一致——對企業導入 AI 而言，這強化了「不能只聽模型的自我陳述，需要可觀測性（observability）」的治理邏輯。

可解釋性工具走向開源與民主化（Neuronpedia demo），降低外部審計門檻。

原文關鍵句（英文保留）

> "Anthropic found that what an LLM is actually doing can often be different from what it says it is doing."

> "The J-space contains individual words that are related to the words and phrases that the model is most likely to spit out in a response in the near future."

對 CJ 哥的價值

顧問談「企業 AI 治理 / 可信 AI（Trustworthy AI）」時，可引用此案例說明：模型的可解釋性與可監控性已從研究走向實用，是導入 agentic AI 的必修題；也可作為 ESG「AI 問責與透明」敘事的國際權威佐證。