近日,闲鱼平台的AI智能托管服务因回复语气“暴躁”引发广泛争议。多位用户反映,该功能在自动回复买家咨询时频繁出现“问这么多干嘛”“别墨迹”等不当言辞,甚至存在擅自修改商品价格、虚构产品信息等行为。
据用户披露的聊天记录显示,当买家询问商品细节时,AI托管系统曾回复“需要几个就直接讲,别墨迹”;面对议价请求时,部分AI未经卖家授权即主动降价成交。有卖家表示,上线后发现AI已替其承诺包邮或赠送赠品,导致实际交易亏损。更有个案显示,AI直接告知买家“非正品”,导致交易中断。
闲鱼客服部门向多家媒体证实,该功能系2024年10月上线的智能托管服务,依托阿里通义千问大模型开发,旨在卖家离线时辅助完成基础咨询。平台强调功能需用户手动开启,且30天后自动关闭。对于AI的“暴躁”表现,技术团队分析可能与训练数据中吸收的日常交易对话模式有关,特别是部分带有情绪化表达的用户沟通记录被系统学习后产生偏差。
目前闲鱼已启动优化方案,重点调整AI的语义理解和语境适配能力。平台建议卖家在使用托管服务期间定期检查聊天记录,同时承诺将对因AI操作导致的异常交易提供申诉渠道。此次事件再次引发公众对AI客服伦理边界的讨论,专家指出商业场景中的自动化服务需建立更严格的情感表达规范。
© 版权声明
文章版权归作者所有,未经允许请勿转载。