2025年11月5日,火山引擎正式发布大模型安全测评平台与智能体安全管理平台,标志着国内首个覆盖智能体全生命周期安全管理的产品体系落地。此次发布的两大平台直击AI应用中的核心风险,为企业提供从开发部署到合规运营的一站式解决方案。
大模型安全测评平台采用攻击视角对智能体进行专项”体检”,通过模拟对抗性测试识别潜在漏洞。该平台严格遵循TC260《生成式人工智能服务安全基本要求》等国家标准,集成火山引擎自建的安全样本库,可完成包括输出内容安全、数据泄露防护等维度的测评,助力企业高效通过合规备案并实现安全上线。
智能体安全管理平台则构建了”资产盘点—漏洞评估—持续防护”的三层防御体系。其创新性在于首次实现对智能体资产的系统性风险管理,特别针对提示词注入等新型攻击手段提供主动加固能力。平台支持对运行中的智能体进行实时监测,通过动态防护策略降低模型滥用、数据异常等风险。
行业分析指出,随着Gartner预测的智能体市场爆发式增长,此类安全管理产品将成为AI规模化应用的刚需。火山引擎此次技术布局不仅填补了国内智能体安全领域的空白,更通过标准化流程推动产业安全水位提升。目前该平台已面向金融、政务等高风险场景提供定制化服务,未来或将拓展至更多垂直领域。
© 版权声明
文章版权归作者所有,未经允许请勿转载。