NVIDIA:每瓦性能成为关键指标——Blackwell GB300效率最高达Hopper的25倍
以DeepSeek V4 Pro模型测试,NVIDIA Blackwell GB300 NVL72的每瓦性能最高可达Hopper的25倍;仅靠软件优化,在一个月内实现最高5倍的效率提升。
本文由人工智能基于一手来源生成。
什么是「每瓦性能」,为何成为关键指标?
每瓦性能是指每单位消耗电能所产生的有效计算工作量——例如AI生成的token数量。随着数据中心供电和冷却成本随AI推理需求同步增长,这一指标正日益成为衡量AI基础设施经济性和碳足迹的核心标准。NVIDIA在最新博文中声称,GB300 NVL72重新定义了效率标准。
Blackwell GB300 NVL72——具体测试结果
以DeepSeek V4 Pro模型测试,NVIDIA的Blackwell GB300 NVL72每瓦性能最高达Hopper上一代的25倍。在GLM5.1模型上提升幅度最高达20倍,在Kimi K2.6模型上最高达10倍。这些是覆盖多个主流开源模型在生产环境中的硬件实测数据。Blackwell架构在NVL72配置(每机架72块GPU)中通过NVLink网络拓扑大幅提升了内存带宽和能效。
软件优化:一个月内5倍提升
值得注意的是,硬件并非唯一的改进驱动力。仅靠软件优化——无需任何硬件变更——在一个月内针对DeepSeek V4即实现了最高5倍的效率提升。NVIDIA的工具生态系统包括TensorRT-LLM、NVIDIA Dynamo、SGLang、vLLM和NVIDIA DSX MaxLPS。这一事实表明,推理编排栈与硅芯片本身同样重要——对于以GPU硬件见长的NVIDIA来说,这是一次罕见的坦率表态。
生产环境客户与行业影响
一些最知名的AI企业已在生产中部署Blackwell系统:Anthropic、OpenAI、CoreWeave、Perplexity和Fireworks AI。相比之下,上一代Hopper(H100/H200)自2022年至2024年是AI训练与推理的事实标准。主流服务商生产环境向Blackwell的迁移,标志着GPU代际更迭的速度比分析师预期的更快。
常见问题
- AI基础设施中的「每瓦性能」指什么?
- 每瓦性能衡量每单位电能消耗所产生的有效计算工作量(例如生成的token数量),已成为评估AI系统成本和碳足迹的关键指标。
- 哪些客户已在生产环境中使用Blackwell?
- Anthropic、OpenAI、CoreWeave、Perplexity和Fireworks AI已在生产环境中使用Blackwell架构。
📬 AI 新闻直达您的邮箱
按您的方式定制每日摘要——自选主题、来源和频率,一键退订。