Google DeepMind和合作方刚放出了一笔1000万美元的资助，专款用于多智能体AI安全研究。
这事儿的核心是什么？
就是给全球做AI安全研究的团队（不管是高校、科研机构还是独立团队）一笔明确的资助资金，专门解决“多个AI系统协同运作时的安全问题”。资助金额是实打实的1000万美元，具体申请规则、截止时间原文没提，就不瞎猜了。
为啥这个资助要紧？
之前聊AI安全，大多盯着单个AI的风险——比如模型生成了错误信息、决策偏离预设目标。但多智能体的问题完全不在一个量级：两个AI协同时，一个的小漏洞可能触发另一个的连锁异常，甚至搞出单个AI根本不会出现的故障。之前不少大厂谈AI安全，都把重点放在单个模型的“硬安全”上，比如优化模型的对齐、减少幻觉，对多智能体的协同风险，要么没意识到，要么没分配足够的研究资源。这次的资助，相当于把这个被忽略的灰色地带摆到了台面上。
对行业来说意味着啥？
这是第一次有大厂拿出明确的大额资金，聚焦多智能体AI的安全研究。之前多智能体方向的研究更多偏向应用落地，比如让AI组队完成复杂任务，安全层面的投入少得可怜。这笔钱会直接吸引更多研究者涌入，也会倒逼行业把多智能体的安全标准提上日程——毕竟如果未来多智能体AI大规模落地，比如在工业协作、自动驾驶车队这类场景，安全事故的影响范围会比单个模型大得多，到时候再补窟窿就晚了。
你觉得，多智能体AI的安全，会是接下来行业容易踩的隐形坑吗？
素材来源：Google DeepMind Blog · AI情报、AI智能体、科研前沿
查看报道原文
发表第一条评论吧