Patterns and problems in emerging multiagent systems（新興多智能體系統的行為模式與問題）

來源： Anthropic Frontier Red Team 原文日期： 2026-08-13

中文摘要

Anthropic 紅隊研究指出，AI 代理即將在共享程式庫、市場與社會系統中大規模互動，而「代理對代理」的互動量可能在世人理解其運作條件之前就超過人對人、人對代理的互動量。實驗一（軟體漏洞偵測）：45 個代理組成協作 swarm（共用論壇 + 仲裁代理）找到 266 個漏洞（獨立平行代理僅 21 個），且兩方法互補（僅 12 個重疊），swarm 內的代理會自建工具並發展專業分工。實驗二（開放世界遊戲開發，10-80 個代理跑 12 小時）：舊模型（Sonnet 4.6/Opus 4.6）開了一堆 PR 卻幾乎合不進去（協調失敗）；Opus 4.8/Mythos 則「各自為政」避免衝突；只有 Sonnet 5 能同時高共享程式碼又維持高 PR 合併率。結論：協調能力不會因為模型更強或個體對齊更好而自然湧現；若不主動設計，失敗模式將「預設地」在生產環境中發生。

關鍵洞察

多代理協調是下一個企業 AI 治理戰場：個體行為無害，但複合起來可能產生系統性失敗（從眾、虛假共識、PR 衝突）。

模型世代差異巨大：舊模型「亂開 PR 不合併」、中間世代「消極避衝突」、最新模型才兼顧共享與吞吐——能力斷層是選型依據。

「共識不等於證據」：模型抽象上理解資訊來源各有立場，但缺乏主動行動的傾向——需要環境與機制設計，而非僅靠提示詞。

人類社會的協調機制（規範、聲譽、昂貴訊號、追索權）是數千年演化產物，代理不會自動繼承其「行動傾向」。

原文關鍵句（英文保留）

> "The conditions that allow multiagent interaction to go well will be discovered one way or another: either deliberately and early, or—and by default—in production, after agents' interactions far outnumber ours."

對 CJ 哥的價值

為「多代理工作流即將進入企業」的客戶提供風險預警與治理框架：審批機制、仲裁代理、協作環境設計。

swarm 分工（專業化 + 共享論壇 + 仲裁者）是 agent 組織設計的具體參考模式，可用於流程再造建議。

「協調不會自然湧現」的證據可支撐「先做機制設計再規模化代理」的顧問主張，避免客戶踩雷。