Akamai联手英伟达推出边缘AI推理平台，响应速度提升10倍

云服务提供商Akamai近日宣布与英伟达达成战略合作，共同推出专为AI推理设计的边缘云平台Akamai Inference Cloud。该平台整合了英伟达最新发布的RTX PRO 6000 Blackwell服务器版GPU、BlueField-3 DPU及AI Enterprise软件，结合Akamai覆盖全球140个国家、拥有4200多个节点的分布式边缘网络，旨在实现AI推理能力的边缘化部署。

技术架构方面，该平台采用”训练在云、推理在边”的创新模式，通过将高性能算力下沉至用户侧边缘节点，显著降低响应延迟。测试数据显示，相比传统集中式部署，该方案可实现智能体响应速度提升6-10倍，P95延迟降低达5倍，算力利用率达到传统模式的3倍。在自动驾驶、远程医疗等对实时性要求严苛的场景中，系统响应时间可从秒级压缩至毫秒级。

核心硬件配置上，RTX PRO 6000 Blackwell GPU具备96GB显存与24K CUDA核心，支持GPU虚拟化与资源分片技术。BlueField-3 DPU则负责加速数据安全传输与处理流程。这种组合既满足专用AI模型的高效推理需求，又能支撑大型语言模型的高显存要求。

市场分析指出，该平台的推出标志着AI基础设施正加速向边缘端迁移。Akamai技术负责人表示，该方案不仅能将企业级AI能力延伸至边缘，赋能实时金融决策与物理AI系统运行，更可缩短AI价值实现周期。行业观察人士认为，这种”分布式智能调度”模式有望重构云计算竞争格局，预计可使企业AI算力支出平均下降45%。