GeekRadar / Il banco di confronto

CONFRONTA.

Acceleratori

NVIDIA

NVIDIA H200 (SXM)

Acceleratori

Elaborazione e piattaforma

Architettura: Hopper^*

Memoria e archiviazione

Memoria video: 141 GB^*
Tipo memoria video: HBM3e^*
Banda di memoria nominale: 4.800 GB/s^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 26 campi

Architettura GPU — NVIDIA H200 SXM — 141 GB HBM3e

Hopper^*

Picco teorico calcolato: BF16 tensoriale denso per GPU — NVIDIA H200 SXM — 141 GB HBM3e

989,5^* TFLOPS

Ambito e condizioni

Calcolo: 1979 / 2^*

Picco teorico: BF16 tensoriale con sparsità per GPU — NVIDIA H200 SXM — 141 GB HBM3e

1.979^* TFLOPS

Picco teorico calcolato: FP16 tensoriale denso per GPU — NVIDIA H200 SXM — 141 GB HBM3e

989,5^* TFLOPS

Ambito e condizioni

Calcolo: 1979 / 2^*

Picco teorico: FP16 tensoriale con sparsità per GPU — NVIDIA H200 SXM — 141 GB HBM3e

1.979^* TFLOPS

Picco teorico: FP32 senza unità tensoriali denso per GPU — NVIDIA H200 SXM — 141 GB HBM3e

67^* TFLOPS

Supporto hardware nativo: FP4 tensoriale — NVIDIA H200 SXM — 141 GB HBM3e

No^*

Picco teorico: FP64 senza unità tensoriali denso per GPU — NVIDIA H200 SXM — 141 GB HBM3e

34^* TFLOPS

Picco teorico: FP64 tensoriale denso per GPU — NVIDIA H200 SXM — 141 GB HBM3e

67^* TFLOPS

Supporto hardware nativo: FP6 tensoriale — NVIDIA H200 SXM — 141 GB HBM3e

No^*

Picco teorico calcolato: FP8 tensoriale denso per GPU — NVIDIA H200 SXM — 141 GB HBM3e

1.979^* TFLOPS

Ambito e condizioni

Calcolo: 3958 / 2^*

Picco teorico: FP8 tensoriale con sparsità per GPU — NVIDIA H200 SXM — 141 GB HBM3e

3.958^* TFLOPS

Picco teorico calcolato: INT8 tensoriale denso per GPU — NVIDIA H200 SXM — 141 GB HBM3e

1.979^* TOPS

Ambito e condizioni

Calcolo: 3958 / 2^*

Picco teorico: INT8 tensoriale con sparsità per GPU — NVIDIA H200 SXM — 141 GB HBM3e

3.958^* TOPS

Picco teorico calcolato: TF32 tensoriale denso per GPU — NVIDIA H200 SXM — 141 GB HBM3e

494,5^* TFLOPS

Ambito e condizioni

Calcolo: 989 / 2^*

Picco teorico: TF32 tensoriale con sparsità per GPU — NVIDIA H200 SXM — 141 GB HBM3e

989^* TFLOPS

Configurazione fisica — NVIDIA H200 SXM — 141 GB HBM3e

SXM^*

Banda dell’interconnessione GPU (NVLink 4) bidirezionale — NVIDIA H200 SXM — 141 GB HBM3e

900^* GB/s

Banda dell’interconnessione GPU per direzione — NVIDIA H200 SXM — 141 GB HBM3e

450^* GB/s

Ambito e condizioni

Calcolo: 900 / 2^*

Interfaccia PCIe dichiarata — NVIDIA H200 SXM — 141 GB HBM3e

PCIe Gen5: 128GB/s^*

Potenza massima della scheda — NVIDIA H200 SXM — 141 GB HBM3e

700^* W

Banda massima della memoria per GPU — NVIDIA H200 SXM — 141 GB HBM3e

4.800^* GB/s

Capacità di memoria per GPU — NVIDIA H200 SXM — 141 GB HBM3e

141^* GB

Memoria riportata in un esempio documentato del driver — NVIDIA H200 SXM — 141 GB HBM3e

143.771^* MiB

Ambito e condizioni

Configurazione: Esempio del driver; non è la capacità nominale della VRAM.^*

Tecnologia della memoria — NVIDIA H200 SXM — 141 GB HBM3e

HBM3e^*

Modello GPU — NVIDIA H200 SXM — 141 GB HBM3e

NVIDIA H200 SXM^*

Specifiche 2 · 16 campi

device name: NVIDIA H200 (SXM)^*
typical power w: 700^* W
on chip sram mb: 50^*
hbm memory gb: 141^* GB
memory bandwidth tb s: 4,8^*
headline metric: Same compute silicon as H100 (3958 TOPS INT8) but 141 GB HBM3e at 4.8 TB/s^*
source type: Vendor^*
vendor: NVIDIA^*
tops per watt calc: 5,654^*
compute paradigm: Electronic^*
device type: GPU^*
release year: 2024^*
maturity: Commercial^*
precision: INT8/FP8^*
throughput unit: TOPS^*
peak throughput: 3.958^*

* Dati provvisori