NVIDIA H200 Tensor Core GPU

NVIDIA H200 Tensor Core GPU是NVIDIA 推出的一款全球性能領先的GPU，專為增強人工智慧和高性能計算工作負載打造。

基本介紹

• 外文名：NVIDIA H200 Tensor Core GPU
• 所屬品牌：NVIDIA

簡介

NVIDIA H200 Tensor Core GPU 基於NVIDIA Hopper™ 架構，是首款採用 HBM3e 的 GPU，其運行更快、更大的顯存容量可加速生成式 AI 與大語言模型，同時推進用於 HPC 工作負載的科學計算。

產品特性

憑藉 HBM3e，NVIDIA H200 能夠提供傳輸速度達 4.8 TB/秒的 141GB 顯存。與上一代架構的 NVIDIA A100 相比，其容量幾乎翻倍，頻寬增加2.4 倍。在一個 700 億參數的 LLM —— Llama 2 上，H200 的推理速度比 H100 快了近一倍。

套用

H200 可以部署在各類數據中心，包括本地、雲、混合雲和邊緣。