NVIDIA L40S GPU是NVDIA推出的旗下GPU產品,NVIDIA L40S GPU基於 NVIDIA Ada Lovelace架構。
簡介,套用,
簡介
NVIDIA L40S GPU 搭載第四代 Tensor Core 和 FP8 Transformer Engine,可提供超過 1.45 PFLOP 的張量處理能力。對於擁有數十億個參數和多種數據模式(如文本和視頻)的複雜 AI 工作負載,與 NVIDIA A100 Tensor Core GPU 相比,L40S 能夠將生成式 AI 的推理性能和訓練性能分別提高 1.2 倍和 1.7 倍。
套用
專注於大規模 GPU 加速工作負載領域的 CoreWeave 是首批提供 L40S 實例的雲服務提供商之一。