GeekRadar / Il banco di confronto

CONFRONTA.

Acceleratori

NVIDIA

NVIDIA H100 (SXM)

Acceleratori

Elaborazione e piattaforma

Architettura: Hopper^*

Memoria e archiviazione

Memoria video: 80 GB^*
Tipo memoria video: HBM3^*
Bus di memoria: 5.120 bit^*
Banda di memoria nominale: 3.350 GB/s^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 22 campi

Architettura GPU — NVIDIA H100 SXM — 80 GB HBM3

Hopper^*

Picco teorico: BF16 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

989,4^* TFLOPS

Ambito e condizioni

Accumulazione: FP32^*

Picco teorico: FP16 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

989,4^* TFLOPS

Ambito e condizioni

Accumulazione: FP32^*

Picco teorico: FP32 senza unità tensoriali denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

66,9^* TFLOPS

Supporto hardware nativo: FP4 tensoriale — NVIDIA H100 SXM — 80 GB HBM3

No^*

Picco teorico: FP64 senza unità tensoriali denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

33,5^* TFLOPS

Picco teorico: FP64 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

66,9^* TFLOPS

Supporto hardware nativo: FP6 tensoriale — NVIDIA H100 SXM — 80 GB HBM3

No^*

Picco teorico: FP8 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

1.978,9^* TFLOPS

Ambito e condizioni

Accumulazione: FP32^*

Picco teorico: INT8 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

1.978,9^* TOPS

Picco teorico: TF32 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

494,7^* TFLOPS

Configurazione fisica — NVIDIA H100 SXM — 80 GB HBM3

SXM5^*

Banda dell’interconnessione GPU (NVLink 4) bidirezionale — NVIDIA H100 SXM — 80 GB HBM3

900^* GB/s

Banda dell’interconnessione GPU per direzione — NVIDIA H100 SXM — 80 GB HBM3

450^* GB/s

Ambito e condizioni

Calcolo: 900 / 2^*

Interfaccia PCIe dichiarata — NVIDIA H100 SXM — 80 GB HBM3

PCIe Gen5: 128GB/s^*

Potenza massima della scheda — NVIDIA H100 SXM — 80 GB HBM3

700^* W

Banda massima della memoria per GPU — NVIDIA H100 SXM — 80 GB HBM3

3.350^* GB/s

Ampiezza dell’interfaccia di memoria per GPU — NVIDIA H100 SXM — 80 GB HBM3

5.120^* bit

Capacità di memoria per GPU — NVIDIA H100 SXM — 80 GB HBM3

80^* GB

Memoria riportata in un esempio documentato del driver — NVIDIA H100 SXM — 80 GB HBM3

81.559^* MiB

Ambito e condizioni

Configurazione: Esempio del driver; non è la capacità nominale della VRAM.^*

Tecnologia della memoria — NVIDIA H100 SXM — 80 GB HBM3

HBM3^*

Modello GPU — NVIDIA H100 SXM — 80 GB HBM3

NVIDIA H100 SXM^*

Specifiche 2 · 16 campi

device name: NVIDIA H100 (SXM)^*
typical power w: 700^* W
on chip sram mb: 50^*
hbm memory gb: 80^* GB
memory bandwidth tb s: 3,35^*
headline metric: 3958 TOPS INT8/FP8 dense (7916 sparse); 80 GB HBM3; the 'Optics vs NVIDIA' reference point^*
source type: Vendor^*
vendor: NVIDIA^*
tops per watt calc: 5,654^*
compute paradigm: Electronic^*
device type: GPU^*
release year: 2022^*
maturity: Commercial^*
precision: INT8/FP8^*
throughput unit: TOPS^*
peak throughput: 3.958^*

* Dati provvisori