NF5488A5是浪潮自研的新一代AI伺服器,支持8顆第三代NVlink全互聯的NVIDIA A100 GPU,同時搭載2顆最新支持PCIe4.0的AMD CPU,可為用戶提供極致的AI性能和超高速頻寬,為智慧型客服、金融分析、智慧城市、智慧型語言處理等各類AI場景提供強大的算力支撐。
2020年7月30日,全球權威AI基準測試MLPerf公布最新結果,浪潮NF5488A5伺服器在最受關注的Resnet50訓練任務中創下AI性能記錄,在所有提交的單伺服器性能成績中名列榜首。
基本介紹
- 中文名: 浪潮NF5488A5
- 所屬品牌:浪潮
- 產品類型:AI伺服器
產品簡介,MLPerf成績,產品特色,
產品簡介
NF5488A5是浪潮自研的新一代AI伺服器,單機訓練性能可達5 PetaOPS,相比上一代伺服器計算性能提升234%。同時,浪潮最佳化了NF5488A5的拓撲結構,採用NUMA綁定策略,可實現CPU與最近GPU的指定通信,大幅提升CPU與GPU之間的數據傳輸效率,實現更低的數據傳輸延遲和更高的頻寬,滿足各種AI負載高效數據通信需求。
此外,NF5488A5在能效和散熱方面也充分考慮了用戶需求:4U尺寸設計,適用於更廣泛的數據中心部署環境;最佳化的供電策略可提高供電穩定性並降低TCO;先進的散熱系統實時保證散熱穩定可靠,完美滿足35℃環境溫度下工作。
MLPerf成績
在全球權威AI測試榜單MLPerf中,浪潮NF5488A5僅用時33.37分鐘,就在包含128萬張圖片的ImageNet數據集上完成Resnet50模型的訓練,相當於每秒訓練23000多張圖片,單機計算性能高居第一,可謂最快人工智慧訓練伺服器。
兩年前Facebook的科學家用32台GPU伺服器、256塊GPU花了1個小時完成了ImageNet上的Resnet50訓練,而現在僅需一台NF5488A5,即可在33分鐘完成同樣的訓練,單台設備訓練效率提升近60倍。
浪潮NF5488A5人工智慧伺服器除了在Resenet50中取得榜首外,還在人工智慧自然語言理解Transformer、神經網路翻譯系統GNMT、深度學習推薦模型DLRM、目標監測算法SSD等MLPerf的模型訓練評估中均取得不俗成績。
產品特色
最強AI訓練性能
採用8顆第三代NVLink全互聯的NVIDIA A100 GPU,相比上一代伺服器計算性能提升234%
卓越通信頻寬
採用NUMA綁定策略,可實現CPU與最近GPU的指定通信,大幅提升CPU與GPU之間的數據傳輸效率,實現更低的數據傳輸延遲和更高的頻寬,滿足各種AI負載高效數據通信需求
面向大規模部署
單系統集成深度學習訓練和推理等功能,幫助AI用戶高效完成AI基礎設施和開發環境的構建,縮短開發周期,顯著提升AI開發和套用效率
加速AI套用創新
適用於圖像視頻、語音識別、金融分析、智慧型客服等各類AI套用,提供強大的算力支撐,加速套用創新