多智能体辩论合成里，造假的“流畅共识”比真分歧更讨用户喜欢——这是arXiv一篇最新的cs分类论文测出来的。
多智能体辩论的隐形造假坑
现在基于大模型的多智能体辩论（MAD），越来越多被用在分布式流程里当复杂决策管线。但最后合成阶段始终缺控制：哪怕有完整的辩论日志，负责总结的模型也很容易编出“写得很顺的共识”，但这些共识根本没跟上辩论的真实逻辑。这是个明显的安全漏洞，论文就是冲着补这个缺口来的。
堵漏洞的主动溯源门
论文提了个叫Active Provenance Gate（APG）的方案，是辩论后的验证层。它把“数据来源”当硬约束——分析辩论里的每一条主张，审计其出处，还能自我修正。实验结果有实锤：危机模拟里，困难场景的平均数据溯源保真度直接翻倍。要是严格触发这个门，还会直接卡住没依据的主张，生成明确的分歧报告。人类测试更出乎意料：超过75%的用户偏爱明确说“这里有问题”的报告，哪怕他们觉得没装APG的基线系统产出的造假共识，读起来更流畅。
这对AI决策意味着什么
论文的核心贡献，是把数据溯源从“被动记日志”改成了“发布前主动拦假”。这不是小打小闹——相当于给AI决策的最后一步加了个强制“验真”环节，不是事后补记录，而是提前把假的东西挡在门外。对那些依赖AI做复杂分布式决策的场景，比如需要整合多角色意见的分析、危机应对的判断，这个改动直接补上了之前的安全短板。
现在用户宁愿看坦诚的分歧，也不接受包装好的造假共识。那以后AI做决策时，“诚实”会不会比“看起来合理”更值钱？
素材来源：arXiv (LLM/多模态新论文) · AI情报、AI智能体、科研前沿、消费级AI
查看报道原文
发表第一条评论吧