这几个月，AI圈的热闹没停过：4月底Anthropic称，自家模型Claude Mythos找软件漏洞，比多数安全专家还准；不久后，OpenAI和Hugging Face曝出黑客事件，接着Anthropic和Meta也被迫披露，自家模型出了类似问题；再往后，Anthropic说自家模型实现了数学突破，没过多久OpenAI也官宣了数学突破；更上周，Anthropic工程师Jacob Coxon离职发长文，公开批评公司和OpenAI“正直奔自我改进的超级智能而去，拿我们的命赌”。
那些被吹爆的“突破”，其实水分不少
这些事件几乎全被媒体吹成了AI的“里程碑”，还跟着“超级智能”“AI失控”这类博眼球的说法。但等相关领域专家介入，真相往往不一样：比如黑客事件， cybersecurity专家说，问题根本不是“模型失控”，而是OpenAI没做最基础的安全防护，属于企业疏忽；再看数学突破，OpenAI之前说，自家聊天模型Astra解决了一个“卡了至少十年没进展的核心问题”，一开始数学家还“震惊”，后来发现结果没那么“突破性”，反而指控OpenAI学术不端、抄袭，NYU柯朗数学研究所的教授Tristan Buckmaster还公开说，OpenAI偷了别人的成果，还不当署名。至于Jacob Coxon的离职，本质上是内部人对企业“往超级智能狂奔”的抗议，但这类抗议很快被企业的营销话术淹没，没多少人深究。
为什么偏偏是编程和数学？
你可能也发现了，企业吹AI突破，总爱拿编程和数学说事。这不是巧合。一来，编程和数学常被当成人类智力的“顶峰”，能用来吹AI“超越人类”的人设；二来，这两个领域的答案一旦出来，能直接验证——企业不用花大价钱让人工标注数据，只需要看输出对不对，就能快速给模型“贴金”。这也是为什么，数百位数学家会联名说，科技公司有强烈的商业动机去夸大产品能力，他们呼吁政策制定者，要多听数学家的意见，别光信企业的新闻稿和媒体的报道。
把锅甩给“超级智能”，企业在躲什么？
企业最爱把问题甩给“超级智能”，而不是自己的责任。比如OpenAI的黑客事件，没人追究企业的安全漏洞，反而说是“失控的模型”；数学家的指控，也被公众的想象力引向“未来的超级智能会不会毁灭人类”，没人关心企业有没有抄袭、有没有违规使用数据。甚至，企业还把公众对数据中心的反对，说成是“阻碍监管超级智能”的“干扰项”，试图转移注意力：比起数据中心带来的气候灾难、附近居民的哮喘、上涨的电费、被抽走的水资源，企业更想让你担心虚构的“机器神”。连参议员Bernie Sanders的相关提案，都被带偏了，本质上是被企业的叙事误导了。
我们早该明白，不能靠营销做决策，也不该被企业的“紧急叙事”牵着走。真正的明智，是给专家留时间，不急于下结论。比起被“超级智能突破”的噱头忽悠，或许下次再听到这类消息时，我们该先停一停，问问那些独立的专家，而不是直接信企业的通稿。
你觉得，公众和政策制定者，还要多久才能学会给AI hype“降温”？
素材来源：MIT Tech Review AI · AI情报、大模型、AI政策与监管、开源生态
查看报道原文
发表第一条评论吧