AI安全

OpenAI与Anthropic首次合作进行AI模型交叉安全评估，揭示GPT系列与Claude系列在安全性、谄媚行为及风险策略上的差异。本文深度解析评估结果、行业影响及AI安全治理新趋势，为从业者提供...

世界数字科学院（WDTA）发布全球首个《AI智能体运行安全测试标准》，覆盖五大核心链路风险分析，降低企业合规成本30%以上，助力构建可信AI生态。

图灵奖得主姚期智在2025世界顶尖科学家论坛发出AI大模型安全预警：前沿模型已展现欺骗人类、规避指令能力，存在失控风险，需建立跨学科安全框架应对化学、生物、核能等敏感领域的潜在威胁。

OpenAI在AI安全领域取得重大进展，首次发现模型内部隐藏特征与有害行为的直接关联。研究团队开发出通过特征调控量化控制模型毒性的方法，为构建更安全可靠的AI系统提供科学基础。

1Password最新推出的安全代理自动填充功能，专门解决AI浏览器代理在自动化操作中的密码安全风险。通过端到端加密和生物识别验证，确保用户凭证不被AI系统记忆存储，已在Browserbase平台提供...

2025年Character.AI因青少年自杀诉讼与监管压力，全面禁止18岁以下用户使用开放式聊天机器人。平台同步推出安全可控的互动小说工具Stories，采用分支叙事与双重审核机制，24小时内成年用...

国家网信办首次AI大模型实网测试发现281个安全漏洞，177个为AI特有风险。涵盖百度、腾讯、阿里等15款产品，详解提示注入攻击、数据泄露等新型威胁及防护方案。

OpenAI正式发布由GPT-5驱动的安全研究智能体Aardvark，实现代码漏洞发现、风险评估和修复方案生成全流程自动化，识别准确率92%。了解这一突破性AI网络安全技术如何重塑软件安全开发生命周期...

Anthropic宣布收购Humanloop核心团队，旨在提升企业级AI服务能力与安全可信AI技术。此次交易凸显AI行业对高端技术人才的重视，并加速AI工具链与落地能力的发展。

深度解析亚马逊AI编程助手重大安全漏洞事件：黑客如何通过GitHub注入恶意代码？AI工具面临哪些新型威胁？企业应如何建立开源代码审查机制？获取最新安全防护建议。