NVIDIA L40 GPU

NVIDIA L40 GPU是NVIDIA 發布的一款GPU，由 NVIDIA Ada Lovelace 架構提供支持，為 GPU加速數據中心工作負載提供革命性神經圖形、可視化、計算和 AI 功能。

基本介紹

• 中文名：NVIDIA L40 GPU
• 所屬品牌：NVIDIA
• 產品類型：GPU

簡介

L40 GPU 包含第三代RT Core 和第四代Tensor Core，能夠為在 OVX 系統上運行的 Omniverse 工作負載提供強大功能，包括加速的光線追蹤和路徑追蹤材質渲染、物理級精確的模擬以及逼真的 3D 合成數據生成。L40 也會在主要 OEM 廠商的 NVIDIA 認證系統伺服器中提供，以驅動數據中心的 RTX 工作負載。

特點

2. 新一代顯示卡：NVIDIA L40為數據中心內的視覺計算工作負載帶來更高級別的功耗和性能。第三代 RT Core 和先進的 48 GB GDDR6 顯存提供高達上一代兩倍的實時光線追蹤性能，可加速高保真創意工作流，包括實時、全保真、互動式渲染、3D 設計、視頻流和虛擬製作。
3. 強大的計算和 AI：NVIDIA L40 具備突破性功能，可加速數據中心運行的各種計算密集型工作負載，包括訓練、推理、數據科學和圖形套用。新的第四代 Tensor Core 提供增強的 AI 功能，可加速視覺計算工作負載，並為深度學習和推理套用提供突破性性能。
4. 數據中心就緒型： NVIDIA L40專為全天候企業數據中心運營而設計，並經過最佳化以大規模部署。憑藉企業級組件、節能高效的硬體以及各項功能（例如通過內部信任根進行安全啟動），L40可為數據中心工作負載提供更高級別的性能和可靠性。L40採用雙插槽節能高效的設計，適用於知名OEM合作夥伴的各種NVIDIA認證系統。

功能

• CUDA® 核心：加速單精度浮點 (FP32) 吞吐量和更高的能效可顯著提升 3D 模型開發和 CAE 仿真等工作流的性能。支持增強的 16 位數學功能 (BF16)，適用於混合精度工作負載。

• 第三代 RT Core：增強的吞吐量以及並發光線追蹤和著色功能可提升光線追蹤性能，加速產品設計和架構、工程和施工工作流的渲染。藉助硬體加速的動態模糊技術，提供令人驚嘆的實時動畫效果，從而了解逼真設計的實際套用情況。

• 第四代 Tensor Core：硬體支持面向結構化稀疏和最佳化的 TF32 格式，為更快的 AI 和數據科學模型訓練提供開箱即用的性能提升。加速 AI 增強型圖形功能（包括 DLSS），在選定套用中提供更高解析度和更出色的性能。

• 48GB 的 GPU 顯存：藉助 NVIDIA 第三代 NVLink，超快 GDDR6 顯存可擴展至 96GB，從而處理顯存密集型套用和工作負載，例如數據科學、仿真、3D 建模和渲染。使用 vGPU 軟體為多個用戶分配顯存，以便在創意、數據科學和設計團隊中分配大型工作負載。

• 虛擬化就緒：NVIDIA 虛擬 GPU (vGPU) 軟體* 帶來的新一代改進能為遠程用戶提供更大、功能更強的虛擬工作站實例，從而支持高端設計、AI 和計算工作負載的大型工作流。

• PCIe 4.0：對 PCIe 4.0 的支持將 PCIe 3.0 的頻寬增加了一倍，因而提升了從 CPU 記憶體傳輸數據的速度，可以更好地執行 AI 和數據科學等數據密集型任務。

• 數據中心效率和安全性：具有雙插槽、被動散熱和節能高效的設計，可與全球 OEM 供應商提供的各類伺服器機箱搭配使用。通過 GPU 中的硬體信任根技術，安全嚴謹地進行啟動，從而為數據中心提供一層額外保護。

NVIDIA L40 針對全天候企業數據中心運營進行了最佳化，由 NVIDIA 專門設計、構建、廣泛測試和支持，可確保更大限度地延長正常運行時間。通過 GPU 中的信任根技術，安全嚴謹地進行啟動，從而為數據中心提供一層額外保護。NVIDIA L40 符合新的數據中心標準，且已達到 NEBS 3 級標準。

被動冷卻、全高、全長 (FHFL) 和雙插槽設計，可與知名 OEM 供應商提供的各類機箱配置搭配使用。

NVIDIA L40 具有 300W 的最大主機板功率，由針對出色性能、耐用性和使用壽命而選擇的節能高效的硬體和組件驅動。

套用

• NVIDIA Omniverse Enterprise：作為數據中心內 NVIDIA Omniverse™ 的引擎，NVIDIA L40 提供RTX 和 AI 功能，為擴展現實 (XR) 和虛擬現實 (VR) 套用、設計協作和數字孿生等工作負載提供支持。對於非常複雜的 Omniverse 工作負載，NVIDIA L40 支持材質的加速光線追蹤和路徑追蹤渲染，實現物理屬性準確的仿真，並生成逼真的 3D 合成數據。
• 渲染和 3D 圖形：藉助 NVIDIA L40 運行專業 3D 可視化套用，創意專業人員可以疊代更多內容、更快進行渲染，並發揮巨大的性能優勢，從而提高工作效率並加快項目完成速度。藝術家和設計師可以實時處理複雜的幾何圖形和高解析度紋理，以生成逼真的設計和仿真，並助力高保真創意工作流。

• 高性能虛擬工作站：與 NVIDIA RTX™ 虛擬工作站 (vWS) 軟體* 結合使用時，從數據中心或雲端到任意設備，NVIDIA L40 可提供強大的虛擬工作站。數百萬創意專業人員和技術專業人員可以從任何位置訪問要求極高的套用，不僅可以獲得堪比物理工作站的出色性能，而且還可滿足更高的安全性需求。

• AI 訓練和數據科學：得益於強大的訓練和推理性能，以及企業級穩定性和可靠性，NVIDIA L40 成為單個 GPU AI 訓練和開發的理想平台。NVIDIA L40 為 FP8 在內的全範圍精度提供更高的吞吐量和支持，從而縮短模型訓練和開發以及數據科學數據準備工作流的完成時間。

• 串流和視頻內容：NVIDIA L40 通過三個視頻編碼和三個視頻解碼引擎，使串流和視頻內容工作負載更上一層樓。添加 AV1 編碼之後，L40 在廣播串流、視頻製作和轉錄工作流方面提供突破性的性能和更高的 TCO。