星光澄海 | BLOG

OpenAI打掉两个用假记者的AI地缘传播操作

被打掉的操作是什么样

OpenAI最近端了两个AI驱动的影响操作。和普通垃圾信息不一样,这俩操作用假记者、假智库当“前台”,专门传播定向的地缘政治信息。说白了就是拿假身份当“挡箭牌”——用伪造的记者身份,可能是AI生成的名字、头像,再配AI写的偏向特定立场的文章;还有不存在的智库机构,发布看似专业的地缘分析报告。OpenAI没公布具体细节,比如发起方、传播的具体地缘观点,但能确定这俩操作全程靠AI驱动,从内容生成到身份伪造,全是机器在跑。

这些AI操作的门道在哪

门道全在这套“以假乱真”的伪装上。普通垃圾信息很容易被识别,因为没专业身份背书,但这俩操作给AI内容套上了“媒体”“智库”的壳。AI擅长快速批量生成内容,还能批量伪造不同的假身份,分散在不同平台传播,逃避人工或常规检测——毕竟之前的检测工具大多优先查内容本身,很少会核对背后的身份是否真实。

这事儿对相关方意味着什么

首先是大模型厂商的责任问题。OpenAI主动出手打击AI滥用,给其他厂商敲了警钟:不能只盯着模型的技术上限,还要管模型的滥用边界。其次是安全机构的压力升级。之前大家关注AI生成的诈骗、谣言,现在得新增“虚假专业身份的地缘传播”这个新赛道,检测技术得同步升级,得同时核对内容和身份的真实性。最后是普通用户的提醒:以后看到带“资深记者”“智库报告”署名的内容,先别急着信,得确认下身份的真假,别被AI的伪装骗了。

我觉得这是个明确的信号——AI滥用已经从简单的谣言,升级到了有组织、有伪装的地缘工具。以后会不会出现连AI检测工具都难分辨的假智库、假记者?到那时,AI的滥用速度会比检测技术快多少?


素材来源:OpenAI News · AI情报、AI应用落地
查看报道原文

发表第一条评论吧

支持 Markdown