|
NVIDIA英偉達H20人工智能服務器專為 AI 和 HPC 而打造。
AI、復雜模擬和海量數據集需要多個具有極快互連速度的 GPU 和完全加速的軟件堆棧。NVIDIA HGX™ AI 超級計算平臺整合了 NVIDIA GPU、 NVLink®、NVIDIA 網絡以及全面優化的 AI 和高性能計算 (HPC) 軟件堆棧的全部功能，可提供最高的應用性能并加快獲得見解的速度。
NVIDIA英偉達H20人工智能服務器GPU算力租賃配置參數：
|
框架
|
6U 機架式服務器
|
|
處理器
|
2 顆至強 Platinum 8480 （可擴展AMD第四代EYPC處理器）
|
|
內存
|
DDR5 4800 64G內存*32
|
|
GPU
|
NVIDIA HGX H20 GPU 模組
|
|
系統硬盤
|
960G SATA SSD *2
|
|
數據硬盤
|
3.84T NVme U.2 SSD*4
9560 8i raid卡*1
|
|
PICE 插槽
|
最大支持12個PCIe 5.0插槽；
支持Bluefield-3、CX7以及多種類型智能網卡；
|
卓越的端到端加速計算平臺
NVIDIA HGX H20將 NVIDIA Blackwell Tensor Core GPU 與高速互連技術相集成，推動數據中心邁向加速計算和生成式 AI 的新時代。HGX 系統是一流的加速縱向擴展平臺，專為要求嚴苛的生成式 AI、數據分析和 HPC 工作負載而設計。
NVIDIA HGX H20 將 H20 Tensor Core GPU 與高速互連技術相結合，為每個數據中心提供出色的性能、可擴展性和安全性。它配置了多達 8 個 GPU，為 AI 和 HPC 領域打造出性能強勁的加速垂直擴展式服務器平臺。HGX H20提供高級網絡選項，憑借 NVIDIA Quantum-2 InfiniBand 和 Spectrum™-X 以太網實現出色的 AI 性能
HGX H20還集成了 NVIDIA數據處理器 (DPU)，有助于在超大規模 AI 云中實現云網絡、可組合存儲、零信任安全性和 GPU 計算彈性。
深度學習推理：性能和多功能性，適用于新一代大型語言模型的實時推理。
深度學習訓練：性能和可擴展性；
訓練性能進一步提升第二代 Transformer 引擎采用 8 位浮點 (FP8) 和新精度，可使 GPT-MoE-1.8T 等大型語言模型的訓練速度顯著提升 3 倍。這一代 NVLink 可提供GPU 間直接互連、InfiniBand 網絡和 NVIDIA Magnum IO™ 軟件。這些因素將共同確保企業和廣泛的 GPU 計算集群具備高效的可擴展性。
NVIDIA英偉達H20人工智能服務器借助 NVIDIA 網絡來加速 HGX；
數據中心是新的計算單元，而網絡在大幅提升整個數據中心的應用性能方面發揮著不可或缺的作用。與 NVIDIA Quantum InfiniBand 搭配使用時，HGX 可提供卓越的性能和效率，確保計算資源得到充分利用。
|
