通過 NVIDIA H800 Tensor Core GPU，在每個工作負載中實現出色性能、可擴展性和安全性。使用 NVIDIA? NVLink? Switch 系統，可連接多達 256 個 H800 來加速百億億級 (Exascale) 工作負載，另外可通過專用的 Transformer 引擎來處理萬億參數語言模型。與上一代產品相比，H800 的綜合技術創新可以將大型語言模型的速度提高 30 倍，從而提供業界領先的對話式 AI。
變革 AI 訓練
H800 配備第四代 Tensor Core 和 Transformer 引擎（FP8 精度），與上一代產品相比，可為多專家 (MoE) 模型提供高 9 倍的訓練速度。通過結合可提供 400 GB/s GPU 間互連的第四代 NVlink、可跨節點加速每個 GPU 通信的 NVLINK Switch 系統、PCIe 5.0 以及 NVIDIA Magnum IO? 軟件，為小型企業到大規模統一 GPU 集群提供高效的可擴展性。
在數據中心級部署 H800 GPU 可提供出色的性能，并使所有研究人員均能輕松使用新一代百億億次級 (Exascale) 高性能計算 (HPC) 和萬億參數的 AI。
實時深度學習推理
AI 正在利用一系列廣泛的神經網絡解決范圍同樣廣泛的一系列商業挑戰。出色的 AI 推理加速器不僅要提供非凡性能，還要利用通用性加速這些神經網絡。
H800 進一步擴展了 NVIDIA 在推理領域的市場領先地位，其多項先進技術可將推理速度提高 30 倍，并提供超低的延遲。第四代 Tensor Core 可加速所有精度（包括 FP64、TF32、FP32、FP16 和 INT8）。Transformer 引擎可結合使用 FP8 和 FP16 精度，減少內存占用并提高性能，同時仍能保持大型語言模型的準確性。
百億億次級高性能計算
NVIDIA 數據中心平臺性能持續提升，超越摩爾定律。H800 的全新突破性 AI 性能進一步加強了 HPC+AI 的力量，加速科學家和研究人員的探索，讓他們全身心投入工作，解決世界面臨的重大挑戰。
H800 還采用 DPX 指令，其性能比 NVIDIA A800 Tensor Core GPU 高 7 倍，在動態編程算法（例如，用于 DNA 序列比對 Smith-Waterman）上比僅使用傳統雙路 CPU 的服務器快 40 倍。
加速數據分析
在 AI 應用開發過程中，數據分析通常會消耗大部分時間。原因在于，大型數據集分散在多臺服務器上，由僅配備商用 CPU 服務器組成橫向擴展式的解決方案缺乏可擴展的計算性能，從而陷入困境。
搭載 H800 的加速服務器可以提供相應的計算能力，并利用 NVLink 和 NVSwitch 每個 GPU 3 TB/s 的顯存帶寬和可擴展性，憑借高性能應對數據分析以及通過擴展支持龐大的數據集。通過結合使用 NVIDIA Quantum-2 InfiniBand、Magnum IO 軟件、GPU 加速的 Spark 3.0 和 NVIDIA RAPIDS?，NVIDIA 數據中心平臺能夠以出色的性能和效率加速這些大型工作負載
內置機密計算
當今的機密計算解決方案基于 CPU，對于 AI 和 HPC 等計算密集型工作負載來說，這些解決方案遠遠無法滿足需求。NVIDIA 機密計算是 NVIDIA Hopper? 架構的內置安全功能，該功能使 H800 成為 NVIDIA 率先推出的具有機密計算功能的加速器。用戶可以在獲取 H800 GPU 出色加速功能的同時，保護使用中的數據和應用的機密性和完整性。它創建了基于硬件的可信執行環境 (TEE)，用于保護并隔離在單個 H800 GPU、節點內多個 H800 GPU 或單個 MIG 實例上運行的整個工作負載。在 TEE 內，GPU 加速應用的運行可以保持不變，且不必對其進行分區。用戶可以將適用于 AI 和 HPC 的 NVIDIA 軟件的強大功能與 NVIDIA 機密計算提供的硬件信任根的安全性相結合。
為大規模 AI 和高性能計算提供出色的性能
Hopper Tensor Core GPU 將為 NVIDIA Grace Hopper CPU+GPU 架構提供支持，該架構專為 TB 級加速計算而構建，可為大型 AI 和 HPC 提供 10 倍的性能。NVIDIA Grace CPU 利用 Arm? 架構的靈活性來創建 CPU 和服務器架構，該架構是專門針對加速計算而從頭開始設計的。Hopper GPU 與 Grace CPU 搭配，使用 NVIDIA 超快速的芯片間互連技術，可提供 900GB/s 的帶寬，比 PCIe 5.0 快 7 倍。與當今運行最快的服務器相比，這種創新設計將 GPU 的聚合系統顯存帶寬提高 30 倍，并且會將運行數萬億字節數據的應用性能提高 10 倍。
注：與 NVIDIA 產品相關的圖片或視頻（完整或部分）的版權均歸 NVIDIA Corporation 所有。
