央视曝光AI聊天软件乱象：筑梦岛App涉不良内容被约谈整改

近日，央视新闻曝光了AI智能体聊天软件行业存在的乱象，部分软件因含有擦边内容对未成年人身心健康造成危害。报道以筑梦岛App为例，指出该平台提供的AI智能体虚拟互动对象包含“校霸”“性感人妻”“病娇养兄”“人格障碍少爷”等边缘化角色设定，并生成具有明显诱导性质的内容。

6月19日上午，上海市网信办依法约谈筑梦岛App运营企业主要负责人，要求平台立即整改，健全AI生成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的清理整治，切实履行未成年人网络保护义务。

报道强调，未成年人因身心发展尚未成熟，辨别能力较弱，容易受到不良信息诱导。此类内容可能导致未成年人形成错误价值观，甚至引发自残等极端行为。法律界指出，若相关行为导致未成年人身心受损，开发及运营方可能面临故意伤害罪、传播淫秽物品罪或侵犯公民个人信息罪等刑事追责。目前，行业法律责任边界亟待厘清，监管部门将持续强化对AI内容生态的治理。