AI推理

AMD完成对MK1的收购，专注于AI推理技术优化，通过内存算法和FP8/FP4精度降低20%系统成本，提升25%推理效率，直接挑战英伟达Blackwell系列，预计2026年市场份额升至30%。

华为开源UCM推理记忆数据管理技术，通过稀疏化模块和KV Cache优化，实现首Token时延降低90%、吞吐量提升22倍，推动AI推理高效低成本发展。

微软Azure与英伟达合作推出基于Blackwell Ultra GPU的虚拟机，在Llama2 70B模型上实现每秒110万token推理速度，性能提升27%，能效优化2.5倍，为企业级AI部署设立...

Akamai与英伟达联合推出AI推理边缘云平台，整合RTX PRO 6000 Blackwell GPU和全球4200个边缘节点，实现AI推理响应速度提升6-10倍，企业算力成本降低45%，推动自动驾...

人工智能推理初创公司Fireworks AI完成2.54亿美元C轮融资，估值达40亿美元。了解其独特的轻资产模式和speculative inference技术如何推动AI推理市场发展，以及融资资金将...

IBM与Groq达成战略合作，通过Watson x Orchestrate平台提供GroqCloud的高速AI推理服务，降低企业AI部署成本，提升金融、医疗等领域的实时推理效率。预计2026年推出集成...

EXO Labs最新研究成果展示：通过智能协同苹果M3 Ultra与英伟达DGX Spark设备，在AI大语言模型推理中实现2.8倍性能提升。详解分布式推理架构如何通过KV缓存数据传输突破硬件瓶颈，为...

英特尔正式发布代号Crescent Island的新一代数据中心GPU，配备160GB内存，基于Xe3P架构专攻AI推理市场。产品针对大语言模型优化，支持风冷服务器，预计2026年交付样品，剑指英伟达...

华为开源轻量级大模型openPangu-Embedded-7B-v1.1，实现动态快慢思维模式切换，提升推理效率50%，适用于工业物联网和移动终端。了解技术突破与应用前景。

面壁智能MiniCPM 4.1基座模型采用稀疏化架构，实现8B参数高效推理，兼容Ollama/vLLM等框架，准确率提升18%，显存占用降30%，推动AI终端部署与算力优化解决方案。