NVIDIA A100 (SXM 80GB)

Acceleratori

Elaborazione e piattaforma

Architettura: Ampere^*

Memoria e archiviazione

Memoria video: 80 GB^*
Tipo memoria video: HBM2e^*
Banda di memoria nominale: 2.039 GB/s^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 19 campi

Architettura GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: Ampere^*
Picco teorico: BF16 tensoriale denso per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 312^* TFLOPS
Picco teorico: FP16 tensoriale denso per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 312^* TFLOPS
Picco teorico: FP32 senza unità tensoriali denso per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 19,5^* TFLOPS
Supporto hardware nativo: FP4 tensoriale — NVIDIA A100 80GB SXM — 80 GB HBM2e: No^*
Picco teorico: FP64 senza unità tensoriali denso per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 9,7^* TFLOPS
Picco teorico: FP64 tensoriale denso per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 19,5^* TFLOPS
Supporto hardware nativo: FP6 tensoriale — NVIDIA A100 80GB SXM — 80 GB HBM2e: No^*
Supporto hardware nativo: FP8 tensoriale — NVIDIA A100 80GB SXM — 80 GB HBM2e: No^*
Picco teorico: INT8 tensoriale denso per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 624^* TOPS
Picco teorico: TF32 tensoriale denso per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 156^* TFLOPS
Configurazione fisica — NVIDIA A100 80GB SXM — 80 GB HBM2e: SXM4^*
Banda dell’interconnessione GPU (NVLink 3) — NVIDIA A100 80GB SXM — 80 GB HBM2e: 600^* GB/s
Interfaccia PCIe dichiarata — NVIDIA A100 80GB SXM — 80 GB HBM2e: PCIe Gen4^*
Potenza massima della scheda — NVIDIA A100 80GB SXM — 80 GB HBM2e: 400^* W
Banda massima della memoria per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 2.039^* GB/s
Capacità di memoria per GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: 80^* GB
Tecnologia della memoria — NVIDIA A100 80GB SXM — 80 GB HBM2e: HBM2e^*
Modello GPU — NVIDIA A100 80GB SXM — 80 GB HBM2e: NVIDIA A100 80GB SXM^*

Specifiche 2 · 16 campi

device name: NVIDIA A100 (SXM 80GB)^*
typical power w: 400^* W
on chip sram mb: 40^*
hbm memory gb: 80^* GB
memory bandwidth tb s: 2^*
headline metric: 624 TOPS INT8 dense (1248 sparse); 80 GB HBM2e; the pre-Hopper datacenter workhorse^*
source type: Vendor^*
vendor: NVIDIA^*
tops per watt calc: 1,56^*
compute paradigm: Electronic^*
device type: GPU^*
release year: 2020^*
maturity: Commercial^*
precision: INT8^*
throughput unit: TOPS^*
peak throughput: 624^*

* Dati provvisori