Project Pilot: Can AI control a drone?（Project Pilot：AI 能操控無人機嗎？）

來源： Anthropic Frontier Red Team 原文日期： 2026-07-24

中文摘要

Anthropic 與 Andon Labs 合作建立 Drone-Bench 基準測試，評估 AI 模型自主操控無人機進行「定位並跟蹤人物」的能力。測試將任務分解為五個子任務：重建（3D 建模）、定位、導航、檢測、跟蹤。Fable 5（目前最強模型）在檢測和跟蹤方面已超越人類-AI 協作基準線，但在重建任務上仍受阻。值得注意的是，模型前沿能力約比一致性能力領先 6 個月——Fable 5 今天的平均表現相當於 2026 年初模型的最佳一次性表現。

關鍵洞察

Drone-Bench 測試 15 個模型（GPT-4o 到 GPT-5.6 Sol），Fable 5 表現最佳

模型的「frontier」（能做到的最好水準）比「consistently achieved」（穩定達到）約領先 6 個月

Fable 5 展現了令人驚嘆的自主分析能力：通過分析地板上的瓷磚線條估算相機傾斜角度（精確到 4 度以內）

與 agentic coding 的平行性：早期人類批准每次工具調用，但數月後模型被信任執行長期任務——硬體控制可能走相同路徑

Anthropic 警告：一旦模型越過能力門檻，將人類留在 loop 中的壓力將從「安全保障」轉為「成本考量」

原文關鍵句（英文保留）

> "At low levels of capability and reliability, keeping a human in the loop is an easy decision because it saves time and resources... Once models pass capability and reliability thresholds, there will be real pressure to treat human oversight as a cost rather than a safeguard."

對 CJ 哥的價值

對 AI 風險評估和企業採用 agent 策略有直接參考價值。(1) Drone-Bench 框架可作為企業評估 AI agent 能力的參考方法論；(2) frontier vs. consistency 的差距概念對客戶設定 AI 採用期望有實際幫助；(3) 臨界點警告（human oversight 從安全保障變為成本）是企業 AI 治理的重要提醒；(4) AI+無人機的雙重用途（dual-use）性質對 ESG 和風險管理有啟發。