NVIDIA L40S
NVIDIA 顯示卡
NVIDIA L40S 是通用型資料中心 GPU,採用 Ada Lovelace 架構,配置 18,176 個 CUDA 核心與 48GB GDDR6 ECC 顯示記憶體,記憶體頻寬 864 GB/s。同時具備強大的 AI 運算能力(FP8 Tensor 效能達 1,466 TFLOPS)與完整的繪圖與影像編解碼引擎,是少數能同時勝任 AI 推論、模型微調、3D 渲染與影音串流轉檔的單一卡種。PCIe 4.0 雙插槽被動散熱設計,可在標準機架式伺服器中高密度部署。
規格
| 架構 | NVIDIA Ada Lovelace 架構(AD102) 第 4 代 Tensor 核心 第 3 代 RT 光線追蹤核心 |
|---|---|
| 運算核心 | 18,176 個 NVIDIA CUDA 核心 568 個 Tensor 核心、142 個 RT 核心 |
| AI 效能 | FP8 Tensor 效能最高 1,466 TFLOPS |
| 顯示記憶體 | 48GB GDDR6 ECC 記憶體頻寬 864 GB/s |
| 系統介面 | PCIe 4.0 x16 |
| 影音引擎 | 3 個 NVENC 編碼器(支援 AV1) 3 個 NVDEC 解碼器 |
| 虛擬化 | 支援 NVIDIA vGPU 軟體授權 |
| 功耗 | 最大功耗 350W |
| 散熱與尺寸 | 被動式散熱(依賴機箱風流) 雙插槽全高全長,適用機架式伺服器 |
| 適用場景 | AI 推論與模型微調、生成式 AI、虛擬工作站 VDI、雲端渲染、影音串流轉檔 |