推理速度提升30倍!NVIDA推出Blackwell GPU,AI训练能力再度突破

0
NVIDA

NVIDIA又出手了,他们推出了全新的Blackwell GPU系列,这是一个主打AI功能的芯片,而且性能进一步突飞猛进!

据介绍,该架构下的其中一款Blackwell B200 GPU有着2080亿个晶体管,数量是Hopper GPU的2.5倍,采用的事4NP工艺制程。

NVIDA

Blackwell B200 GPU提供20 petaflops和FP4马力的效能,芯片的大小也比H100大很多,提供了4倍更高的AI训练能力、30倍更高的推理性能以及25倍的能源效率。

在那之前,NVIDIA AI芯片以2022年推出的Hopper架构为主,并基于这个架构推出了H100芯片等产品。

NVIDA

NVIDIA的总裁黄仁勋表示,过去要训练一个1.8兆参数的AI大模型需要8000个Hopper GPU以及15兆瓦的功耗,如今2000张Blackwell B200能以4兆瓦的功耗就能完成同等的训练。

NVIDA

除此之外,Blackwell架构的强大之处在于提升了带宽,在每个神经节点用上4bits的数据量而非8个,同时透过NVLink技术能够让多达576颗GPU互相连接,并有着1.8TB的双向带宽。

值得一提的是,Blackwell GPU这个命名取自知名数学家David H. Blackwell。

NVIDA

对于NVIDIA而言,Blackwell GPU的出现将能够刺激他们旗下的订单数量,根据外媒CNBC的报导指出,Amazon、Google、Microsoft和甲骨文都将透过云服务来向大众出售访问GB200的访问权限,像是Amazon的网络服务奖建构2万个GB200芯片的服务器集群,并部署27万亿参数的模型,相对之下,GPT-4目前为1.7万亿参数。

Source :

About author

阿六

你永远还能做得更好,但你有时也会比你想象中的还要好

订阅
通知
guest

0 Comments
内联反馈
查看所有评论
0
希望听到您的想法,请评论x