NVIDIA推出超级计算机云租借服务:每月RM165k、包含8个A100/H100旗舰AI芯片配套!

0
NVIDIA

众所周知,目前 NVIDIA 在人工智能芯片行业处于主导的地位,并且他们最近才为 Microsoft 以及 OpenAI 构建支持 ChatGPT 的大型超级计算机,以实现人类语言的回答问题,或根据指示提供生成照片。而在今天( 3 月 22 日)NVIDIA 举办面向全球开发者的 GTC Spring 2023 会议,在会议上老黄宣布一项 NVIDIA 的商业计划!

NVIDIA

这项计划面向于所有想要开发类似于 ChatGPT 等人工智能超级计算机的商业群体,租借费用不便宜,包含 8 个 A100 或 H100 旗舰芯片的价格,每月为 37,000 美元(约165,223令吉)。

image 105

NVIDIA 除了宣布租借计划之外,他们还发布最新的双 GPU 产品 H100 NVL,具体来看 H100 NVL 配备了 3 个用于 NVLink 的连接器。在性能部分,H100 NVL 是 H100 SXM 的两倍:FP64 为 134 teraflops,TF32 为 1979 teraflops,FP8 为 7916 teraflops,INT8 为 7916 teraops。

NVIDIA H100 NVL 1

除此之外,H100 NVL 采用第四代 Tensor Core 和具有 FP8 精度的 Transformer 引擎,与上一代混合专家 (MoE) 模型相比,训练速度提高了 9 倍。第四代 NVLink 的组合,提供每秒 900 GB 的 GPU 到 GPU 互连。

在数据中心规模部署 H100 GPU 可提供出色的性能,并使所有研究人员都能实现下一代百亿亿次级高性能计算 (HPC) 和万亿参数人工智能。

About author

啊晖

以前喜欢手机,之后喜欢上折叠机,接着再喜欢上电动车🚗

订阅
通知
guest

0 Comments
内联反馈
查看所有评论
0
希望听到您的想法,请评论x