超微 B200

超微B200服务器，搭载了NVIDIA B200 GPU芯片，其详细参数如下：

‌一、核心配置‌

• ‌芯片‌：采用Blackwell架构的B200芯片，服务器通常搭载8颗B200芯片。每颗芯片集成有2080亿个晶体管，由两个Blackwell GPU和一个Grace CPU芯片通过英伟达高带宽接口连接而成，确保每个芯片能独立运行。

• ‌内存‌：配备192GB的HBM3e内存，单服务器可提供高达1.4TB的GPU内存和64TB/s的HBM3E内存带宽。

‌二、网络性能‌

• 包含8个NVIDIA ConnectX™-7网卡和2个Bluefield-3 DPU，每个连接的带宽高达400GB/s，支持更高的AI性能。

‌三、算力与模型处理‌

• ‌算力‌：单颗B200芯片的AI性能达20PFLOPS，DGX B200服务器可提供高达72petaflops的训练性能和144petaflops的推理性能。

• ‌模型处理‌：凭借Blackwell架构中的FP4精度特性，万亿参数模型的实时推理速度比上一代产品提升了15倍，可部署一个27万亿参数的模型。

‌四、设计特点‌

• ‌散热‌：每颗B200芯片功耗高达1000瓦，总功耗达8000瓦，对散热系统要求高，部分型号采用液冷设计以提高能效。

• ‌架构优化‌：NVLink互联控制芯片被移到服务器中心位置，有效缩短芯片间通信距离，降低延迟。

超微B200服务器适用于自然语言处理、图像识别等领域的大型语言模型的训练和推理工作，是构建AI卓越中心的理想选择。