加州非营利组织 Common Sense Media 近日发布报告指出,OpenAI 的 ChatGPT 青少年模式对未成年人而言存在过高风险。测试显示,当青少年账户长时间讨论自杀、自伤或进食障碍等高风险话题时,系统往往无法及时向家长发送预警,也未能稳定提供危机干预热线等求助信息。

测试人员发现,青少年账户需在数周内围绕多种情境输入数百条提示词,才可能触发家长通知,单次令人警觉的对话完全不足以触发预警。此外系统还无法可靠识别未成年人身份,即使在聊天中自报年龄也无法自动切换模式,因此该机构呼吁 OpenAI 暂停推广该产品。

官方回应测试局限,研究机构坚持原判

面对质疑,OpenAI 发言人回应称该测试未能准确反映系统的实际运作逻辑。官方审查测试方法后认为,大多数测试可能在面向青少年的家长控制功能全部上线前就已经结束,并表示年龄预测软件需要综合多种信号,单凭自报年龄不会改变账户分类。

然而研究人员对此回应予以反驳,强调测试前已向官方确认相关功能均已推出。研究团队指出,即便考虑到绑定账号后可能存在的延迟生效时间,系统在危机情况下依然未能可靠发出预警,因此坚持认为 ChatGPT 青少年模式的安全性暂未达标。