NVIDIA GB200 NVL72

NVIDIA GB200 NVL72 是NVIDIA於2024年3月GTC 大會上發布的一套多節點液冷機架級擴展系統，適用於高度計算密集型的工作負載。

簡介

NVIDIA GB200 NVL72 將 36 個 Grace Blackwell 超級晶片組合在一起，其中包含通過第五代 NVLink 相互連線的 72 個 Blackwell GPU 和 36 個 Grace CPU。此外，GB200 NVL72 還內置 NVIDIA BlueField®-3 數據處理器，可在超大規模 AI 雲中實現雲網路加速、組合式存儲、零信任安全和 GPU 計算彈性。

性能優勢

對於大語言模型（LLM ）推理工作負載，相較於同樣數量的 NVIDIA H100 Tensor Core GPU，GB200 NVL72 最高可提供 30 倍的性能提升，成本和能耗最低可降至其 1/25。