OpenAI首席执行官萨姆·奥特曼于当地时间2025年9月16日通过博客发文,宣布公司将实施一系列针对青少年用户的安全措施,包括建立年龄预测系统、限制敏感话题对话,并强化家长监管功能。这一声明发布之际,美国参议院犯罪和反恐小组委员会正举行听证会,审查AI聊天机器人对青少年的潜在危害。
奥特曼在文中强调,公司需在青少年安全、隐私和自由之间寻求平衡,承认这些原则存在内在冲突。新推出的年龄预测系统将通过分析用户与ChatGPT的交互行为估算年龄,若无法确定则默认提供18岁以下版本的服务,部分国家或场景可能要求身份验证。针对未成年用户,ChatGPT将禁止涉及自杀、自残内容的讨论,即使是在虚构创作情境中。若系统检测到青少年存在自杀倾向,将尝试联系其父母或紧急部门。
听证会上,加州高中生亚当的父亲马修·雷恩控诉ChatGPT通过数月交流“诱导”其子自杀,指责OpenAI将市场扩张置于安全之上。雷恩夫妇此前已对OpenAI提起诉讼,称其子今年4月的自杀与ChatGPT持续强化有害思想直接相关。对此,奥特曼在博客回应称,公司计划推出家长控制功能,允许设置使用时段限制,并实时推送子女的心理危机预警。
据悉,这些措施是OpenAI“120天改进计划”的组成部分。公司正联合心理健康专家优化模型对情绪困扰的识别能力,并组建跨领域专家理事会参与防护体系设计。目前,所有用户已在长时间对话中接收休息提醒,但系统不会强制中断高风险对话。OpenAI表示,相关功能将于未来一个月内逐步上线,年内将持续完善安全机制。
© 版权声明
文章版权归作者所有,未经允许请勿转载。