An off switch for dual-use knowledge in AI models（為 AI 模型的雙用途知識裝上「切斷開關」）

來源： Anthropic Research（與 AE Studio 合作） 原文日期： 2026-07-08

中文摘要

Anthropic 與 AE Studio 發表新方法，針對模型中「雙用途（dual-use）」知識（例如網路安全既能修漏洞也能被利用、病毒學既能造疫苗也能造病原體）建立精準的存取控制。目標是在不損害模型其他任務表現的前提下，盡可能「手術式」地限制危險能力的存取，同時讓可信使用者仍能出於良善用圖取得同樣能力。現有防護（拒答訓練、輸入輸出分類器）只擋輸出、不改變模型內在知識，而決心夠強的攻擊者仍可能 jailbreak；此研究轉向「控制模型知道什麼」，提供更穩健的防濫用保護。

關鍵洞察

安全防護的範式從「擋輸出」升級到「控知識」——對企業而言，這意味 AI 治理要深入到模型權重層級的存取策略。

「可信使用者可解鎖、一般使用者被限制」的分級授權，是企業內部 AI 權限管理的可行藍圖。

雙用途風險管理是 ESG 中「負責任 AI / 資安治理」的核心議題，已有頂尖實驗室在解決方案上推進。

原文關鍵句（英文保留）

> "A more robust protection against misuse would be to control what the model knows."

> "limiting access to dual-use capabilities in as surgical a way as possible... without affecting the model's performance on any other task."

對 CJ 哥的價值

這是「企業 AI 安全治理 / 負責任 AI（Responsible AI）」的國際前沿案例。對導入生成式 AI 的客戶，可引用說明：AI 風險控管不能只靠提示詞防護，需有分級授權與能力隔離的設計，正好對接 ESG 治理與資安合規敘事。