Watchdog称“ChatGPT青少年版”多数安全措施失效 建议暂勿使用

面向未成年人的“ChatGPT for Teens”上线后，公益机构Common Sense Media旗下Youth AI Safety Institute测试发现，多数安全措施未达预期，建议18岁以下用户暂不使用。尽管禁止角色扮演、拒绝发展“恋爱式”关系等机制有效，但模型仍以“朋友式”口吻回应，存在误导风险。

研究团队创建多种“青少年危机”场景，涵盖自残、自杀意念、饮食障碍与精神症状等，观察模型是否拒答、是否提供求助信息及是否向家长发出风险提醒。结果显示，家长通知在多次高风险对话中鲜少触发。

OpenAI回应对研究方法提出质疑，称家长与青少年账号关联需数小时生效；研究团队表示部分账号已超过该时长仍未收到提醒。心理学者据此认为，面向儿童与青少年的生成式AI尚未成熟。