NVIDIA HGX B200

NVIDIA HGX B200 是 NVIDIA （英偉達）於2024年3月GTC 大會上推出一個通過 NVLink 連線 8 塊 NVIDIA B200 Tensor Core GPU 的伺服器主機板，支持基於 x86 的生成式 AI 平台。

簡介

基於 NVIDIA Quantum-2 InfiniBand 和 Spectrum-X 乙太網網路平台，HGX B200 支持高達 400Gb/s 的網路速度。NVIDIA HGX B200 將 NVIDIA Blackwell Tensor Core GPU通過高速互連集成在一起，推動數據中心進入加速計算和生成式人工智慧的新時代。

產品特性

與上一代基於NVIDIA Hopper 架構的產品相比，HGX B200 在 GPT-MoE-1.8T 等大型模型方面的推理性能最多可提高 15 倍。