微软Azure与英伟达Blackwell Ultra GPU实现每秒110万token AI推理新纪录 微软Azure与英伟达合作推出基于Blackwell Ultra GPU的虚拟机,在Llama2 70B模型上实现每秒110万token推理速度,性能提升27%,能效优化2.5倍,为企业级AI部署设立... AI产品动态# AI推理# BlackwellUltra# Llama2 1个月前
微软发布AI智能体可观测性五项准则,Azure平台实现全链路监控与治理 微软发布AI智能体可观测性五项实践准则,涵盖实时行为追踪、全链路追溯与自动化评估,依托Azure平台提升AI智能体质量与安全性,助力企业实现AI全生命周期管理。 AI新闻资讯# AI可观测性# AI治理# 人工智能安全 4个月前