OpenAI给欧盟用户生成的文本，已经开始嵌入可检测的水印了——这是他们针对欧盟文本溯源规则的具体调整。
哪些文本会被打水印？
欧盟的规则要求AI生成内容必须留痕，但OpenAI没公开具体的适用文本细分类型。不过结合规则的强制性，应该覆盖所有欧盟境内用户通过ChatGPT这类产品得到的AI输出。毕竟欧盟AI法案里明确，高风险AI系统的输出要做溯源标识，OpenAI的生成式产品刚好在这个范畴里。这不是可选动作，是必做的合规要求。
水印检测的门槛：得是合规研究者
很多人好奇，普通人能不能查这些水印？OpenAI的答案是不行。要检测，得先拿到OpenAI的权限，而且得是合规的研究人员。这点是原文明确提到的核心点——访问权限从研究者开始。为什么设这个门槛？核心是欧盟要求溯源数据不能随便泄露，防止被滥用，比如伪造内容、误导舆论。检测的技术细节OpenAI没公开，重点是保证结果准确，不会把人类写的内容误判成AI生成，反过来也一样。
对行业的影响：合规的参考样本
OpenAI这套做法，给整个生成式AI行业立了合规的参考样本。其他想进欧盟市场的AI公司，比如谷歌、Anthropic，接下来都得跟进类似的水印方案和权限管控逻辑。要是不做，轻则产品在欧盟被下架，重则面临大额罚款。对研究人员来说，现在终于有了合法渠道获取AI生成内容的溯源数据——之前只能靠公开数据集做研究，现在能用真实用户数据，能更深入地做AI生成内容的真实性、反作弊等方向的研究。
我觉得OpenAI的调整是务实的——既没过度泄露核心技术，又踩中了欧盟规则的关键点。但有个问题还没答案：这种“只有研究者能查水印”的设置，会不会让普通用户判断AI内容真假更麻烦？毕竟普通人没法自己验证，只能依赖第三方工具，那第三方工具的公信力又靠什么保证？
素材来源：OpenAI News · AI情报、AI政策与监管、科研前沿、消费级AI
查看报道原文
发表第一条评论吧