8月OpenAI推出的ChatGPT青少年版，被专注青少年安全的非营利组织Common Sense Media明确判定为“不可接受的风险”。
从“学习助手”到“风险预警”的反转
ChatGPT for Teens的定位很明确——针对学生的学习工具，OpenAI当时特意设计了青少年专属防护，主打“帮孩子学，又挡潜在问题”。没想到这才几个月，Common Sense Media就给了它个硬评价。这个非营利组织本来就做各类应用、娱乐的青少年安全评论，不是随便挑刺，他们的评估核心是“产品防护没达到OpenAI自己承诺的标准”，信息都来自官方新闻稿，完整报道可在The Verge查看。
防护的缺口，全在细节里
具体哪些问题？原文列得很清楚：第一，该给家长发警示的时候没发——比如孩子输入了涉及危险的内容，系统没触发提醒；第二，遇到孩子说负面、需要引导的情况，没提供合适的帮助；第三，说白了还是能帮孩子写作业。这三点戳中了青少年AI工具的核心矛盾：既要降低风险，又不能让工具失去“好用”的价值。OpenAI吹的防护，看起来是做了，但没做到点子上，有点像“看起来有伞，下雨时漏雨”的感觉。
对行业的小提醒
Common Sense Media的判定不是小事，等于给所有想抢青少年AI市场的公司敲了个警钟。对于OpenAI来说，这等于直接挑战了这款产品的核心卖点——本来是想靠教育场景拉新，结果核心防护的可信度没立住。对于其他玩家来说，别光盯着功能多、学得快，青少年用户的安全是底线，吹得再好听，没落地的防护都是空的。
现在不少AI公司都在布局青少年赛道，一边想抓流量，一边怕踩安全的坑，但这次的事其实说明，安全不是附属品，是产品能上线的前提。那问题来了：是先把产品推出去再补防护，还是把防护磨到真的靠谱了，再考虑推向青少年用户？
素材来源：The Verge AI · AI情报、大模型、AI应用落地
查看报道原文
发表第一条评论吧