AI推理

IBM与Groq达成战略合作，通过Watson x Orchestrate平台提供GroqCloud的高速AI推理服务，降低企业AI部署成本，提升金融、医疗等领域的实时推理效率。预计2026年推出集成...

华为发布UCM推理记忆数据管理器技术，通过分级管理KV Cache记忆数据，显著提升AI推理效率并降低成本。中国银联已试点该技术，联合华为发布智慧金融AI推理加速方案。了解UCM技术如何推动金融AI应...

微软Azure与英伟达合作推出基于Blackwell Ultra GPU的虚拟机，在Llama2 70B模型上实现每秒110万token推理速度，性能提升27%，能效优化2.5倍，为企业级AI部署设立...

人工智能推理初创公司Fireworks AI完成2.54亿美元C轮融资，估值达40亿美元。了解其独特的轻资产模式和speculative inference技术如何推动AI推理市场发展，以及融资资金将...

英伟达CEO黄仁勋公开称赞中国DeepSeek-R1模型的技术突破与开源价值，该模型通过混合专家架构和思维链技术实现高效推理，正在重塑全球AI产业生态。

AMD完成对MK1的收购，专注于AI推理技术优化，通过内存算法和FP8/FP4精度降低20%系统成本，提升25%推理效率，直接挑战英伟达Blackwell系列，预计2026年市场份额升至30%。