星光澄海 | BLOG

Claude的“新发现”引争议:AI何时才算真的科学突破?

上周三Anthropic官宣了一个AI实验室的“首秀”:旗下Claude的950个智能体花21小时,在海量DNA序列里找到了一个从未被记录的基因重复模式,还拿这个和CRISPR类比。但这篇帖子刚发,就炸出一片反对:礼来CEO公开站出来批评,哥本哈根大学的生物学家Mario更直接,说他早就发现了这个模式,还怀疑Anthropic抄了他和Claude的对话,索性停了所有Claude的使用。

这个“发现”到底是什么?

Anthropic的说法是,这批智能体没找到新的DNA序列,只是在一种已知酶的周围,发现了一个从未被录入数据库的重复序列结构。公司把这个成果往CRISPR上靠,称其“和催生基因编辑技术的发现有相似性”,听起来分量很重。但对生物学家来说,这事儿的水分很大:找基因序列里的重复模式,是生物信息学里的常规工作,只要算力够,扫一遍几百万条序列总能筛出点相似的片段,真正难的是搞清楚这个模式的功能,以及怎么把它转化成有用的技术——这也是为什么,Anthropic口中的“发现”,在科学家眼里连“突破的苗头”都算不上,更像AI帮着做了点体力活。

生物学家的标准,和AI公司的不一样

哥本哈根大学的Mario和Anthropic的矛盾点很具体:他说自己早就发现了那个重复模式,还和Claude聊过相关的分析,现在Anthropic的团队否认剽窃,但他已经不想再碰Claude了。这件事戳破了AI公司的一个套路:他们总把AI包装成“独立发现者”,而不是科学家手里的工具——但科学发现的核心,从来不是谁算出了一个模式,而是这个模式能解决什么问题,能推动人类对世界的认知往哪走。Lucas Harrington在反驳帖里说得很明白:“找奇怪的基因簇和重复序列太容易了,真正难的是搞懂它们到底有啥用”。他还建议AI公司现在就把标准拉高,别等哪天真出了重大突破,大家反而麻木了。

竞争中的AI公司,已经顾不上提标准

Anthropic不是第一个这么干的。上个月OpenAI也说,他们的智能体解决了一道百万美元级的数学题,但很快就有人质疑:这道题本身是不是数学界真正关心的?还有数学家跳出来说,OpenAI的模型可能用了他没署名的工作,最后大家吵来吵去,没人关心这道题对数学的意义,全在纠结“有没有作弊”“题是不是水的”。

现在Sam Altman和Anthropic的Dario Amodei在互相较劲,谁都想抢着“第一个用AI搞出科学突破”的名头,这时候提高标准,显然不是他们想做的事。毕竟,哪怕是“假发现”,只要能把AI的科技感吹起来,就能吸引眼球和资本。

如果AI真的某天发现了真正的新生物机制或数学定理,我们会不会因为之前被吹过太多次“AI发现”,反而看不见它的重量?


素材来源:MIT Tech Review AI · AI情报、大模型、AI应用落地、AI政策与监管
查看报道原文

发表第一条评论吧

支持 Markdown