NVIDIA A100
NVIDIA 顯示卡
NVIDIA A100 Tensor 核心 GPU 是 Ampere 世代的資料中心運算主力,配置 6,912 個 CUDA 核心與 432 個第三代 Tensor 核心,搭載 HBM2e 高頻寬記憶體(PCIe 版本提供 40GB 或 80GB 容量),記憶體頻寬最高 1,935 GB/s。支援多實例 GPU(MIG)可切分為最多 7 個獨立實例,讓一張卡同時服務多個工作負載;透過 NVLink 橋接可取得 600 GB/s 的卡間頻寬。被動散熱雙插槽設計,適合機架式伺服器高密度部署,是深度學習訓練與高效能運算的經典選擇。
規格
| 架構 | NVIDIA Ampere 架構(GA100) 第 3 代 Tensor 核心 |
|---|---|
| 運算核心 | 6,912 個 NVIDIA CUDA 核心 432 個第 3 代 Tensor 核心 |
| 顯示記憶體 | HBM2e 高頻寬記憶體 PCIe 版本 40GB 或 80GB,頻寬最高 1,935 GB/s |
| 系統介面 | PCIe 4.0 x16 |
| 卡間互連 | 支援 NVLink 橋接,卡間頻寬 600 GB/s |
| 虛擬化 | 多實例 GPU(MIG),最多切分為 7 個獨立實例 支援 NVIDIA vGPU |
| 功耗 | 最大功耗 250W(40GB)/ 300W(80GB) |
| 散熱與尺寸 | 被動式散熱(依賴機箱風流) 雙插槽全高全長,適用機架式伺服器 |
| 軟體支援 | CUDA、cuDNN、NCCL、TensorRT、NVIDIA AI Enterprise |
| 適用場景 | 深度學習訓練、大型模型推論、高效能運算 HPC、科學模擬、資料分析 |