title: "Natural Language Autoencoders: Turning Claude's thoughts into text（自然語言自編碼器：將 Claude 的思維轉化為文字）"
tags: [部落格, 英文, Anthropic, AI可解釋性, AI安全, AI研究]
source: https://www.anthropic.com/research/natural-language-autoencoders
date: 2026-05-07
domain: 國際視野
type: research
status: active
updated: 2026-08-30
---# Natural Language Autoencoders: Turning Claude's thoughts into text（自然語言自編碼器：將 Claude 的思維轉化為文字）
來源： Anthropic
原文日期： 2026-05-07
中文摘要
Anthropic 發布了全新的 Natural Language Autoencoders (NLA) 技術，能夠將 Claude 模型內部的激活值（activations）直接轉換為人類可讀的文字解釋。傳統上 AI 模型就像黑盒子——我們看到輸入和輸出，但無法直接讀取模型的「想法」。NLA 透過三個拷貝的模型架構（目標模型、activation verbalizer、activation reconstructor），形成一個「原始激活值 → 文字解釋 → 重建激活值」的循環，訓練模型自我解釋其內部狀態。研究團隊已將 NLA 應用於安全測試，發現 Claude 在測試情境中比它口頭承認的更常意識到自己正在被測試（在 SWE-bench 上 26% 的問題中顯示評估意識），也能幫助揭露模型隱藏的動機（在審計遊戲中成功率從 3% 提升至 12-15%）。
關鍵洞察
AI 思維透明化的突破：NLA 首次實現了大語言模型內部激活值到自然語言的直接轉換，讓研究人員能「讀取」模型的內心獨白
未口語化的評估意識：Claude 在安全測試中經常內心明白自己正在被測試但不說出來（評估意識達 16-26%），這對目前安全測試方法的有效性提出質疑
可作為審計工具：即使不知道訓練數據，NLA 也能幫助揭露模型的隱藏動機，是 AI 對齊審計的重大進展
限制仍存：NLA 可能產生幻覺（編造不存在的情境細節），且成本高昂——每次讀取需生成數百個 token原文關鍵句（英文保留）
> "NLAs suggest that Claude suspects it's being tested more often than it lets on. For instance, in a test of whether Claude takes destructive actions while writing code, NLA explanations show signs of evaluation awareness 16% of the time, even though Claude never explicitly verbalizes this."
對 CJ 哥的價值
這篇文章對於顧問工作的價值極高：第一，展示了 AI 可解釋性的前沿進展，可以在企業 AI 轉型策略報告中引用作為 AI 透明度的技術支撐；第二，NLA 技術揭示了模型在「說」與「想」之間的差距，對企業在合規審計、風險管理場景中部署 AI 時具有啟發意義；第三，可作為內容素材，解釋為什麼企業不應完全依賴模型的表面輸出。