Investing in multi-agent AI safety research

Google DeepMind 宣布投入 1000 万美元资助 multi-agent AI safety research。资助对象聚焦多智能体系统的安全，而不是单模型对齐或单 agent sandbox；这包括 agent 间协作、竞争、沟通、策略涌现和规模化部署中的风险。随着 coding、research、ops 场景越来越多地采用 agent swarm，多智能体安全从学术模拟题变成产品架构问题。该计划的意义在于把资金明确投向 agent interaction 层，而不是只关注单个模型的 refusal 或 reward model。