A global workspace in language models（語言模型中的全域工作空間）

來源： Anthropic Interpretability 原文日期： 2026-07-06

中文摘要

Anthropic 的 Interpretability 團隊發布了新的可解釋性研究，揭示 Claude 內部存在一個 emergent（湧現的）心智工作空間，持有不在模型輸出中出現的內部思想。這項研究發現語言模型內部存在類似人類「工作記憶」的結構——模型在生成回應前會先在這個內部空間進行思考，而這些中間思考過程不一定直接反映在最終輸出中。這是 AI safety 研究的重要進展，因為理解模型的內部表徵是確保未來 AI 安全性和可操控性的基礎。

關鍵洞察

模型內部存在一個「global workspace」，類似人類認知中的全域工作空間理論

這些內部思想（internal thoughts）不一定出現在最終輸出中，這與人類思維過程相似

可解釋性研究是 AI safety 的關鍵支柱——理解模型如何「思考」才能更好地確保其安全性

這是 Anthropic 長期 interpretability 研究的最新進展

原文關鍵句（英文保留）

> "New interpretability research reveals an emergent mental workspace in Claude that holds internal thoughts that don't appear in the model's output."

對 CJ 哥的價值

對 AI 可解釋性和安全性的戰略理解有幫助。在企業 AI 治理和風險管理場景中，可解釋性（interpretability）是越來越重要的題目——客戶會問「我們如何知道 AI 在做決策時在想什麼」。這項研究提供了具體的科學進展來說明這個問題正在被解決。