Репост из: 蓝点网订阅频道
#科技资讯 #硬件设备 英伟达趁热打铁推出 NVIDIA HGX H200 人工智能加速卡,较 H100 性能翻倍,带宽提升至 4.8TB/S、最大内存 141GB。
查看全文:https://ourl.co/101031
以 Meta AI 开源的 Llmma-2 70B LLM 为例,H200 推理速度较 H100 提升了 1 倍。
H200 基于 Hopper 架构开发,采用 HBM3e 内存,带宽为 4.8TB/S,最大内存为 141GB,支持 4 路和 8 路配置。
H200 的部分参数如下:
FP64 34TFLOPS
FP64 Tensor Core 67 TFLOPS
FP32 67TFLOPS
TF32 Tensor Core 989 TFLOPS
该 GPU 将在 2024Q2 上市。
第二款产品是 NVIDIA GH200 Grace Hopper 超级芯片,这是为超算设计的,可以将 H200 GPU 与基于 Arm 的 NVIDIA Grace CPU 结合在一起。
其中德国正在建造的 JUPITER 使用 24000 张 GH200 与 Quantum-2 互联,将成为最强大的人工智能系统。
🎉 订阅频道:蓝点网订阅
🥰 𝕏(原推特):@landiantech
👋 交流频道:蓝点网读者群
查看全文:https://ourl.co/101031
以 Meta AI 开源的 Llmma-2 70B LLM 为例,H200 推理速度较 H100 提升了 1 倍。
H200 基于 Hopper 架构开发,采用 HBM3e 内存,带宽为 4.8TB/S,最大内存为 141GB,支持 4 路和 8 路配置。
H200 的部分参数如下:
FP64 34TFLOPS
FP64 Tensor Core 67 TFLOPS
FP32 67TFLOPS
TF32 Tensor Core 989 TFLOPS
该 GPU 将在 2024Q2 上市。
第二款产品是 NVIDIA GH200 Grace Hopper 超级芯片,这是为超算设计的,可以将 H200 GPU 与基于 Arm 的 NVIDIA Grace CPU 结合在一起。
其中德国正在建造的 JUPITER 使用 24000 张 GH200 与 Quantum-2 互联,将成为最强大的人工智能系统。
🎉 订阅频道:蓝点网订阅
🥰 𝕏(原推特):@landiantech
👋 交流频道:蓝点网读者群