NVIDIA DGX Cloud是2023年3月21日NVIDIA發布的旗下產品。這項AI超級計算服務使企業能夠即時接入用於訓練生成式AI等開創性套用的高級模型所需的基礎設施和軟體。
簡介,組件,特點,套用,月租,
簡介
NVIDIA DGX Cloud提供了專用的NVIDIA DGX AI超級計算集群，搭配NVIDIA AI軟體，使每個企業都可以使用簡單的網路瀏覽器訪問AI超算，消除了獲取、部署和管理本地基礎設施的複雜性。
企業可按月租用DGX Cloud集群，以便能夠快速、輕鬆地擴展大型多節點訓練工作負載的開發，無須等待需求量通常很大的加速計算資源。
組件
每個DGX Cloud實例都配有8個NVIDIA H100或A100 80GB Tensor Core GPU，每個節點共有640GB GPU記憶體。使用NVIDIA 網路解決方案構建的高性能、低延遲結構確保了工作負載能夠在互連繫統集群中擴展，使多個實例就像一個巨型的GPU，以滿足高級AI訓練性能要求。集成在DGX Cloud中的高性能存儲為AI超級計算提供了完整的解決方案。
DGX Cloud包含NVIDIA AI Enterprise。NVIDIA AI Enterprise作為NVIDIA AI平台的軟體層，通過提供端到端AI框架和預訓練模型，來加速數據科學流程，並簡化生產級AI的開發和部署。NVIDIA AI Enterprise 3.1提供的預訓練模型、經過最佳化的框架和加速數據科學軟體庫，可進一步幫助開發人員啟動他們的AI項目。
DGX Cloud特有的來自NVIDIA專家的支持貫穿整個AI開發流程。用戶可以直接與NVIDIA工程師一起最佳化模型，並迅速解決各種行業用例中的開發難題。
特點
企業可以使用 NVIDIA Base Command™平台軟體管理和監控DGX Cloud訓練工作負載，該軟體可實現DGX Cloud以及本地NVIDIA DGX超級計算機之間用戶體驗的無縫銜接。通過使用Base Command 平台，用戶可根據每項工作所需的DGX基礎設施的數量和類型，將工作負載與之相匹配。
套用
DGX Cloud 已經在甲骨文的Oracle Cloud Infrastructure上提供，微軟雲、谷歌雲平台等和其他雲預計很快也會提供。
月租
DGX Cloud每實例每月租金為36,999美元起。
