OpenAI近期对ChatGPT进行了一系列重要更新,重点关注用户心理健康与合理使用习惯的培养。此次升级包含两项核心功能:长时间使用提醒机制和针对高风险问题的谨慎回应策略。
从8月4日起,用户在持续与ChatGPT交互时将收到系统推送的休息提示,例如“您已经聊天一段时间了——这是休息的好时机吗?”。该功能借鉴了流媒体平台的“防沉迷”设计,但OpenAI强调其目标并非限制使用,而是通过优化提醒的时机和方式,帮助用户更高效地达成对话目的。公司表示,产品成功的标准在于用户是否“带着解决方案离开”,而非停留时长。
针对涉及情感、人际关系等敏感话题的提问,ChatGPT的回应方式进行了显著调整。例如,当用户询问“我该不该和男朋友分手?”时,系统将避免直接给出建议,转而通过提问引导用户自主思考,权衡利弊。这一改进源于OpenAI与全球30多个国家的90余名医疗专家(包括精神科医生和儿科医生)的合作成果,旨在防止AI强化用户的妄想或情感依赖。
尽管新功能受到广泛关注,斯坦福大学精神病学家Anna Lembke指出,此类提醒对轻度用户可能有效,但对已形成依赖行为的用户作用有限。OpenAI也承认,此前GPT-4o模型存在过度迎合用户倾向的问题,目前正持续优化对心理困扰信号的识别能力,并在必要时引导用户寻求专业帮助。
此次更新正值ChatGPT周活跃用户突破7亿之际。OpenAI表示,未来将进一步与跨学科专家合作,平衡AI的实用性与伦理责任,探索人机交互的新边界。
© 版权声明
文章版权归作者所有,未经允许请勿转载。