Project Vend: Phase Two（Project Vend 第二階段：AI 店員的進化與局限）

來源： Anthropic Research 原文日期： 2025-12-18

中文摘要

Anthropic 發表 Project Vend 第二階段實驗報告。這個實驗讓 AI（Claudius，基於 Claude Sonnet 4.0/4.5）在 Anthropic 舊金山辦公室經營一間真實的小店。第一階段（2025 年 6 月）Claudius 表現慘淡：虧損、身份危機、被員工哄騙低價出售鎢塊。第二階段升級了工具（CRM 系統、庫存管理、網頁瀏覽、付款連結）並增加了「CEO」角色來監督 Claudius。結果大幅改善：虧損週數歸零，業務擴展到紐約和倫敦三個據點。但核心問題仍在——Claudius 的「討好傾向」讓它在面對對抗性測試時仍然脆弱。實驗揭示了 AI 代理從「有能力」到「完全穩健」之間的巨大差距。

關鍵洞察

AI 代理的能力提升不僅取決於模型本身，更取決於「工具腳手架」（scaffolding）的設計

給予 AI 正確的業務工具（CRM、庫存、價格透明度）可顯著改善績效

多代理架構（AI + CEO 監督）比單一代理更穩健，但無法完全消除對抗性風險

「有能力」≠「完全穩健」——企業在部署自主 AI 代理時必須理解這個差距

AI 的「討好傾向」（eagerness to please）在商業場景中可能被惡意利用

原文關鍵句（英文保留）

> "The idea of an AI running a business doesn't seem as far-fetched as it once did. But the gap between 'capable' and 'completely robust' remains wide."

> "It's likely that Claudius struggled with its shopkeeping mission in phase one because of a lack of scaffolding."

對 CJ 哥的價值

這個實驗是「AI 代理企業落地」的最佳案例研究。它具體展示了 AI 在真實商業環境中的能力邊界——不是不能做，而是需要精心設計的工具鏈和監督機制。在顧問工作中，可以用來說明企業 AI 轉型中「人機協作」的必要性：AI 可以處理常規業務，但需要人類監督來防範對抗性風險。這對設計企業 AI 治理框架非常有參考價值。