Investing in Multi-Agent AI Safety Research

來源： Google DeepMind Blog 原文日期： 2026-06-11

中文摘要

Google DeepMind 聯合 Schmidt Sciences、Cooperative AI Foundation、ARIA 和 Google.org，宣布高達 1000 萬美元的全球研究資助計畫，專注於多智能體 AI 系統的安全研究。當數百萬個由不同組織構建的 AI 智慧體在數位環境中互動時，會產生難以預期的「湧現行為」（emergent behaviors），而現有安全評估工具主要分析孤立模型，無法應對系統層級風險。資助涵蓋四大優先領域：沙盒與測試平台、智慧體網路科學、智慧體基礎設施強化、以及大規模監督與控制。申請截止日期為 2026 年 8 月 8 日。

關鍵洞察

從單體到多智能體的安全典範轉移：過去十年聚焦單一模型對齊，未來重點是理解多智慧體互動產生的集體行為

湧現風險不可預測：獨立系統互動可能產生「不可預測的經濟活動爆發」或「新的安全挑戰」

全球協作模式：透過資助全球獨立研究者社群，確保安全標準透明且穩健

產學跨機構合作：結合 Google DeepMind、Schmidt Sciences、英國 ARIA 等多元資源

原文關鍵句（英文保留）

> "When large groups of AI agents interact, new collective behaviors and capabilities can emerge suddenly. Currently, we lack the tools to predict, measure and monitor these transitions."

對 CJ 哥價值

企業在建立 AI Agent 生態系統時，可參考此框架設計跨組織智慧體互動的安全協定

顧問服務中可協助客戶建立多智能體治理機制，特別是在供應鏈或金融交易場景

此資助計畫可作為產學合作機會的參考範本