首页 - 科技 > NVIDIA Blackwell GPU首次实测跑分:提升多达2.2倍!

NVIDIA Blackwell GPU首次实测跑分:提升多达2.2倍!

发布于:2024-11-14 作者:凹凸曼 阅读:38

NVIDIA Blackwell GPU相当强悍,大家都知道,但到底有多强呢?

除了官方宣传数据,现在终于第一次看到了实测数据,来自MLCommons MLPerf v4.1,考察AI训练推理性能的最佳平台。

对比对象是两代服务器HGX B200、HGX H200,前者包含多达八颗Blackwell GPU B200,单颗功耗高达1000W。

GPT-3预训练项目中,Blackwell的性能相比上代Hopper翻了一番。

Llama 2 700亿参数微调项目中,Blackwell的性能更是提升了多达2.2倍。

值得一提的是,Blackwell平台具备ConnectX-7 SuperNICs网卡、Quantum-2 InfiniBand交换机,再加上第五代NVLink互连总线,可以充分保障节点间的通信,可以平衡分配AI训练负载,整体效率更高。

比如同样的GPT-3 1750亿参数性能,Hopper需要多达256颗GPU,Blackwell就只需要64颗。

NVIDIA Blackwell GPU首次实测跑分:提升多达2.2倍


二维码

扫一扫关注我们

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件至 3941001135@qq.com举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

相关文章