智快网
快讯 行业 产业 汽车 科技 AI+ 热点

英伟达Blackwell GPU展现实力:AI训练速度超越Hopper达2.2倍

2024-11-14来源:ITBEAR编辑:瑞雪

科技巨头英伟达近日公布了旗下Blackwell GPU在MLPerf v4.1 AI训练工作负载中的卓越性能。据WccfTech报道,这款新型GPU在训练Llama 2 70B模型时,展现出比前代Hopper GPU快2.2倍的速度。

英伟达此次公布的测试成绩,涵盖了多个重要的AI训练模型,包括用于自然语言处理的BERT和GPT-3 175B,以及用于图像生成的Stable Diffusion等。这些基准测试为评估AI加速器的性能提供了有力支持。

Hopper GPU自推出以来,经过不断优化,其性能已得到显著提升。在LLM预训练任务中,H100 GPU的性能比初次时测试提升了1.3倍,并在GPT-3 175B训练中实现了高达70%的性能增长。

然而,Blackwell GPU的亮相无疑将AI计算的性能推向了新的高度。该GPU旨在提高计算吞吐量,并配备了更大、更快的高带宽内存。这使得Blackwell能够在保持高性能的同时,以更少的GPU数量完成GPT-3 175B等基准测试。

测试结果显示,仅需64张Blackwell GPU,便可达到256张Hopper GPU的测试性能,这一成就无疑彰显了英伟达在AI计算领域的领先地位。

随着AI技术的飞速发展,计算需求呈指数级增长。英伟达通过持续创新和优化,不断推动AI训练和推理能力的提升,为各行各业带来更强大的智能支持。