NVIDIA H200NVL
NVIDIA 顯示卡
NVIDIA H200 採用 NVIDIA Hopper 架構，是第一款能以每秒 4.8 TB 的速度提供 141 GB HBM3e 記憶體的 GPU，容量幾乎是 NVIDIA H100 GPU 的兩倍，記憶體頻寬則提升 1.4 倍。H200 更大、更快的記憶體能加速生成式人工智慧和 LLM，同時提升高效能運算工作負載的科學運算，而且能源效率更高、總體擁有成本更低。
規格
| 架構 | NVIDIA Hopper 架構（H200）第 4 代 Tensor 核心，內建 Transformer Engine，支援 FP8 |
|---|---|
| 顯示記憶體 | 141GB HBM3e 高頻寬記憶體，記憶體頻寬 4.8 TB/s |
| 系統介面 | PCIe 5.0 x16 |
| 卡間互連 | 支援 NVIDIA NVLink Bridge，2-way / 4-way NVLink，最高 900 GB/s / GPU；4-way 可達 1.8 TB/s |
| 虛擬化 | 多實例 GPU（MIG），最多切分為 7 個 GPU Instance；H200 NVL 每個 Instance 約 16.5GB |
| 功耗 | 最大功耗 600W（可設定） |
| 散熱與尺寸 | 雙槽 PCIe、主動式散熱（氣冷），適用於伺服器與資料中心環境 |
| 軟體支援 | CUDA、TensorRT-LLM、NVIDIA AI Enterprise、NCCL、NVIDIA NIM |
| 適用場景 | 大型語言模型推論、生成式 AI、AI 模型訓練、HPC 高效能運算、AI 資料中心 |