NVIDIA Quantum-X800平台

NVIDIA Quantum-X800平台

NVIDIA Quantum-X800平台(英文名【NVIDIA Quantum-X800 Platform】)是NVIDIA發布的業界第一代800Gb/s的端到端高性能網路平台,包括了NVIDIA Quantum Q3400交換機和NVIDIA ConnectXⓇ-8 SuperNIC,它的出現,樹立了AI專用基礎設施極致性能的新標桿。

基本介紹

  • 中文名:NVIDIA Quantum-X800平台
  • 外文名:NVIDIA Quantum-X800 Platform
  • 所屬品牌:NVIDIA
簡介,發展歷史,核心結構,工作原理,性能優勢,套用領域,

簡介

大模型的發展推動著算力的不斷提升,同時降低算力功耗的需求也已經變得更為苛刻。如何在提升計算性能同時,又能降低能源的消耗,更高性能的 GPU 和網路是構建新型 AI 基礎設施的關鍵。
NVIDIA Quantum-X800平台是專為NVIDIA Blackwell架構產品的Scale Out而量身打造,為超過萬億參數級的GPU計算和AI基礎設施進行了最佳化,相比上一代計算平台實現了性能的大幅提升,同時在同等算力的前提下又實現了功耗的大幅降低。

發展歷史

Quantum-X800是Quantum-2平台的下一代產品,在Quantum-2平台的基礎之上,進一步提升了連線埠的速度、交換機連線埠的密度、網路計算的能力、以及在軟體上和業界流行的通信框架上進行了更深層最佳化,單交換機可支持144個800GB/s連線埠,實現了FP8的網路計算,SuperNIC內置PCIe6.0交換機,可直連GPU和CPU,擺脫了GPU和網路之間的通信需要依賴於CPU或者PCIe交換機匯流排頻寬的限制,提升AI、數據處理和高性能計算的性能。

核心結構

交換機 + SuperNIC(超級網卡) + PCIe交換機 + LinkX + 網路計算引擎 + NCCL集合通信庫

工作原理

Quantum Q3400 平台可以支持14.4TFlops的網路計算能力(SHARPv4),是上一代交換機的9倍,可以卸載GPU和CPU的計算類集合通信;Connect-X800 SuperNIC可以通過內置PCIe6.0交換機直接與最新的Blackwell架構產品互連,提供800Gb/s的單連線埠網路通信頻寬,僅用兩層網路交換就可以支持10,368卡的800Gb/s/GPU互連或者13,824卡的400Gb/s/GPU互連,三層網路可以支持超過70萬張卡的800Gb/s/GPU互連。

性能優勢

NVIDIA Quantum-X800平台實現了單連線埠性能的加倍,交換容量的5倍提升,網路計算能力的9倍提升,為大模型訓練和生成式AI提供超強的性能。

套用領域

AI工廠、生成式AI雲、企業級AI雲、HPC、數據處理

相關詞條

熱門詞條

聯絡我們