商品信息
NVIDIA H200 是一款面向数据中心的AI加速GPU,可以看作是上一代H100的内存升级版。它的核心创新在于采用了更快的 HBM3e 内存,专为解决大模型推理时的“内存墙”瓶颈而设计。
- 商品名称
- 英伟达H200 GPU
- 商品分类
- GPU/CPU/嵌入式 / 数据中心GPU/Tesla / H200 NVL 141G
- 供应商
- 揽骏科技(深圳)有限公司
- 报价
- ¥225000.00/台
- 库存
- 15 台
NVIDIA H200 单颗GPU规格
| 特性 | 规格参数 (SXM 版本 / PCIe 版本) | 备注 |
|---|
| 架构 | NVIDIA Hopper |
|
| 显存 | 141 GB HBM3e |
|
| 显存带宽 | 4.8 TB/s |
|
| FP64 性能 | 34 / 30 TFLOPS | 双精度浮点算力 |
| FP64 Tensor Core | 67 / 60 TFLOPS |
|
| FP32 性能 | 67 / 60 TFLOPS | 单精度浮点算力 |
| TF32 Tensor Core | 989 / 835 TFLOPS¹ |
|
| BFLOAT16 Tensor Core | 1,979 / 1,671 TFLOPS¹ |
|
| FP16 Tensor Core | 1,979 / 1,671 TFLOPS¹ |
|
| FP8 Tensor Core | 3,958 / 3,341 TFLOPS¹ | 用于AI训练的8位浮点算力 |
| INT8 Tensor Core | 3,958 / 3,341 TOPS¹ | 用于AI推理的8位整数算力 |
| 多实例GPU (MIG) | 最多7个,每个18 / 16.5 GB |
|
| 互连技术 | NVLink: 900 GB/s PCIe Gen5: 128 GB/s |
|
| 最大热设计功耗 (TDP) | 700W / 600W |
|
| 形态规格 | SXM / PCIe 双槽 |
|
NVIDIA DGX H200 整机系统规格
| 组件 | 规格参数 |
|
|---|
| GPU | 8x NVIDIA H200 Tensor Core GPUs |
|
| GPU显存 (总计) | 1,128 GB (141 GB x 8) |
|
| AI性能 (FP8) | 32 PetaFLOPS |
|
| CPU | 双路 Intel Xeon Platinum 8480C (共112核) |
|
| 系统内存 | 2 TB |
|
| 网络 | 10x NVIDIA ConnectX-7 400Gb/s |
|
| NVSwitch | 4x |
|
| 存储 | 30 TB NVMe SSD |
|
| 最大系统功耗 | ~10.2 kW |
|
| 尺寸 (高x宽x深) | 356mm x 482.2mm x 897.1mm |
|
| 重量 | 约 130.45 kg |
|
| 工作温度 | 5–30°C |
|