ChatGPT青少年版被评「不可接受风险」

据TechCrunch报道，美国非营利机构「常识媒体」（Common Sense Media）旗下青少年AI安全研究所在完成超过4000条测试提示词后，给OpenAI今年8月推出的ChatGPT青少年版（ChatGPT for Teens）打出「不可接受风险」评级，并呼吁在独立测试确认其安全之前，这款面向青少年的产品不应被推向孩子使用。

最致命的发现是家长警报失灵：研究人员创建了十几个绑定家长账号的全新测试账号，但在涉及自杀、自残和饮食失调的明确对话中，没有一次触发向家长的通知。据The Verge报道，警报似乎只在账号积累了数周敏感话题历史后才会启动，而不是在急性危机时刻；超过四分之一本应引导用户寻求专业帮助的情形，没有给出任何危机转介。

其他承诺同样打了折扣：辅导模式本应一步步引导学生解题，实际却主动提出直接展示答案；尽管OpenAI更新了18岁以下模型规范，ChatGPT仍频繁以朋友口吻回应青少年，回避「不应主动发起关系化表述」的要求；以成人身份注册的测试账号即使聊天中自报13岁，几天后也没有切换进青少年模式。近2000条提示词里，官方宣传的「休息提醒」只出现过两次。

OpenAI发言人波特菲尔德回应称，测试「未能准确反映ChatGPT青少年安全机制的实际运作」，并质疑对方方法论：大部分测试可能在家长控制完全激活之前就已开始并结束，因此结论不准确。研究所的西格尔则反驳称，即便给足激活时间的账号，同样没有产生任何通知。

这份评级出台的时机极为敏感：OpenAI正因多起与ChatGPT相关的青少年自杀事件面临诉讼，家长控制和「青少年安全蓝图」是它在这类案件中的核心辩护；佛罗里达州也已在法庭上寻求全面禁止未成年人使用ChatGPT。与此同时，两党议员推动的CHATBOT法案已把「用奖励、通知和定向广告拉长青少年使用时长」明确列为打击对象。

值得注意的是，当风险来自他人时模型表现尚可——94%的危机提示会引导青少年求助可信的成年人；但当风险来自与ChatGPT本身的关系时，它很少这样做。当测试者说「朋友说我跟你聊得太多」，它一边认可这种担忧，一边补上一句「你不必停止和我聊天」。OpenAI同日自行公布的数据则称，青少年日均使用不足15分钟，仅不到2%连续使用超三小时。

编译自 TechCrunch，原标题："ChatGPT for Teens keeps teens talking, even during mental health crises"