上海网信办指导小红书、B站、拼多多等平台清理违规AI产品

为落实中央网信办“清朗·整治AI技术滥用”专项行动要求，上海市委网信办自4月下旬起针对6类突出问题开展第一阶段治理工作。6月12日，“网信上海”公众号公布阶段性成果，小红书、哔哩哔哩、拼多多等15家重点平台参与集中清理，共拦截违规信息82万余条，处置账号1400余个，下线违规智能体2700余个，网络违规AI内容显著减少。

此次行动重点整治“一键脱衣”、未授权人脸/人声克隆、未备案AI产品及相关营销、教程信息。小红书、哔哩哔哩等平台主动发布治理公告，开通有害内容举报渠道；星野等AI平台完成智能体全面排查。上海网信办同步强化生成式AI服务合规管理，目前已完成82款大模型备案、87款应用登记，并对3款未备案且存在风险的应用依法处罚。

网信办表示，此次行动旨在遏制AI技术滥用对网络生态的破坏，后续将持续深化大模型合规指导服务，推动行业自律。公众可通过平台举报渠道参与监督，共同维护清朗网络空间。