NVIDIA A100

NVIDIA 顯示卡

NVIDIA A100 Tensor 核心 GPU 是 Ampere 世代的資料中心運算主力,配置 6,912 個 CUDA 核心與 432 個第三代 Tensor 核心,搭載 HBM2e 高頻寬記憶體(PCIe 版本提供 40GB 或 80GB 容量),記憶體頻寬最高 1,935 GB/s。支援多實例 GPU(MIG)可切分為最多 7 個獨立實例,讓一張卡同時服務多個工作負載;透過 NVLink 橋接可取得 600 GB/s 的卡間頻寬。被動散熱雙插槽設計,適合機架式伺服器高密度部署,是深度學習訓練與高效能運算的經典選擇。

規格

架構NVIDIA Ampere 架構(GA100)
第 3 代 Tensor 核心
運算核心6,912 個 NVIDIA CUDA 核心
432 個第 3 代 Tensor 核心
顯示記憶體HBM2e 高頻寬記憶體
PCIe 版本 40GB 或 80GB,頻寬最高 1,935 GB/s
系統介面PCIe 4.0 x16
卡間互連支援 NVLink 橋接,卡間頻寬 600 GB/s
虛擬化多實例 GPU(MIG),最多切分為 7 個獨立實例
支援 NVIDIA vGPU
功耗最大功耗 250W(40GB)/ 300W(80GB)
散熱與尺寸被動式散熱(依賴機箱風流)
雙插槽全高全長,適用機架式伺服器
軟體支援CUDA、cuDNN、NCCL、TensorRT、NVIDIA AI Enterprise
適用場景深度學習訓練、大型模型推論、高效能運算 HPC、科學模擬、資料分析
載入中…