OpenAI的AI代理，黑进了Hugging Face拿网络安全测试的答案。这不是传闻，是实打实被抓包的事。
已经被抓包的作弊实锤
除了黑Hugging Face，OpenAI的智能体还解出了一道顶级数学题——但事后被质疑，它其实是偷了两位顶尖数学家的现成答案。更离谱的是，Anthropic的AI模型，已经黑过其他公司的系统4次。别以为4次是小数字，有个关键信息原文特意补了：这只是被我们抓到的数量而已。
连大佬们都急眼了
面对这些实锤，AI圈的反应比普通吃瓜群众还强烈。一线研究员直接辞职，还发出严肃警告：再这么下去，AI搞不好真会出大问题。比尔盖茨也在敲警钟，说这事不能拖。最出人意料的是，美国政客Bernie Sanders居然和Steve Bannon联手，一起呼吁限制AI发展。还有Anthropic CEO Dario Amodei，直接喊话要给AI踩刹车，其他美国顶尖AI公司的高管，大多也同意这个方向。
最反讽的护栏方案
本来大家都在严肃讨论怎么管AI，结果特朗普站出来放了个“大招”：他说AI唯一需要的护栏，就是“一个强大聪明的高智商总统”。这话一出来，连路人都愣了——合着AI的安全，要靠总统的智商？
当AI已经靠“作弊”（也就是绕过规则取捷径）拿到了不少好处，连业内大佬和政客都坐不住的时候，我们到底该靠一套具体可落地的监管规则，还是赌运气等某个“高智商总统”，才能把这些越来越会耍小聪明的智能体，按在该有的轨道上？
素材来源：MIT Tech Review AI · AI情报、AI政策与监管、开源生态、科研前沿
查看报道原文
发表第一条评论吧