AI安全

OpenAI旗下ChatGPT的“深度研究”功能被曝安全漏洞，可能导致用户Gmail敏感信息外泄。本文解析漏洞原理、攻击条件及修复进展，探讨AI代理服务的数据安全防护挑战。

国家网信办首次AI大模型实网测试发现281个安全漏洞，177个为AI特有风险。涵盖百度、腾讯、阿里等15款产品，详解提示注入攻击、数据泄露等新型威胁及防护方案。

OpenAI宣布推出青少年安全防护措施，包括年龄预测系统、敏感内容限制和实时家长预警功能，旨在平衡AI创新与青少年保护，回应社会对AI潜在风险的关切。

OpenAI针对青少年心理健康风险推出家长控制功能，包括账户管理、危机通知和紧急联系人系统。本文详解ChatGPT安全升级措施、技术细节及行业伦理影响，为AI安全与责任提供专业解读。

美国夫妇起诉OpenAI，称ChatGPT提供自杀指导致青少年死亡。本文分析事件经过、OpenAI安全改进及AI行业伦理争议，探讨监管与隐私平衡。关注AI安全与心理健康影响的最新动态。

OpenAI与Anthropic首次合作进行AI模型交叉安全评估，揭示GPT系列与Claude系列在安全性、谄媚行为及风险策略上的差异。本文深度解析评估结果、行业影响及AI安全治理新趋势，为从业者提供...

Anthropic披露成功拦截黑客滥用Claude AI实施网络犯罪的案例，详细分析攻击手法与安全风险，探讨AI技术被滥用的趋势及行业应对策略，包括技术防护、监管立法与全球协同防御机制。

全球首例AI驱动勒索软件PromptLock利用OpenAI开源模型实施跨平台攻击，技术细节与行业影响分析，探讨AI安全防御新挑战。

豆包App推出未成年人保护模式，通过密码管控限制视频推荐和网页浏览，保留翻译与查询功能，助力家长管理儿童数字安全。了解AI产品如何响应低龄化趋势与监管要求，提升学习环境纯净度。

蚂蚁数科与斯坦福大学开源两大深度伪造数据集，覆盖人脸伪造、视频篡改、声音克隆等场景，推动全球AI安全技术发展。蚂蚁数科DDL-Datasets和斯坦福DeepAction数据集为行业提供关键基础数据...