AI安全

OpenAI宣布无限期推迟首个开源权重AI模型的发布，以进行更深入的安全测试和风险审查。首席执行官山姆·奥尔特曼强调安全性和可靠性是首要任务，尽管模型性能已达标。了解OpenAI的最新动态及其对AI安...

豆包App推出未成年人保护模式，通过密码管控限制视频推荐和网页浏览，保留翻译与查询功能，助力家长管理儿童数字安全。了解AI产品如何响应低龄化趋势与监管要求，提升学习环境纯净度。

OpenAI宣布推出青少年安全防护措施，包括年龄预测系统、敏感内容限制和实时家长预警功能，旨在平衡AI创新与青少年保护，回应社会对AI潜在风险的关切。

谷歌DeepMind最新更新AI安全框架，首次将AI阻止人类关闭的风险纳入正式评估体系，新增说服力风险类别应对有害操控行为，建立动态安全响应机制保障AI技术安全发展。

全球首例AI驱动勒索软件PromptLock利用OpenAI开源模型实施跨平台攻击，技术细节与行业影响分析，探讨AI安全防御新挑战。

蚂蚁数科与斯坦福大学开源两大深度伪造数据集，覆盖人脸伪造、视频篡改、声音克隆等场景，推动全球AI安全技术发展。蚂蚁数科DDL-Datasets和斯坦福DeepAction数据集为行业提供关键基础数据...

Black Hat大会披露ChatGPT Connectors存在高危漏洞，攻击者无需用户交互即可窃取Google Drive数据。了解OpenAI应对措施及生成式AI集成安全建议。

英国政府与OpenAI签署战略合作备忘录，双方将在AI基础设施、安全研究及公共服务领域展开合作，推动英国成为全球AI领导者。了解合作细节及未来影响。

世界数字科学院（WDTA）发布全球首个《AI智能体运行安全测试标准》，覆盖五大核心链路风险分析，降低企业合规成本30%以上，助力构建可信AI生态。

Anthropic为Claude Opus 4推出行业首创功能：在检测到极端有害互动时主动终止对话。了解这一AI安全突破如何设定新标准，以及其技术实现细节与行业影响。