GeekRadar / Il banco di confronto

CONFRONTA.

GPU

NVIDIA

NVIDIA H100 GPU accelerator (SXM card)

Processore grafico Uscita Mar 22, 2022

Memoria video: 80 GB^*
Bus di memoria: 5.120 bit^*
Banda di memoria nominale: 3.350 GB/s^*

Non sono ancora disponibili benchmark associati a questa scheda.

Elaborazione e piattaforma

Architettura: Hopper

Configurazioni GPU

Reference configuration
Potenza nominale
700 W
Specifica di potenza
TDP

Memoria e archiviazione

Memoria video: 80 GB^*
Tipo memoria video: HBM3^*
Bus di memoria: 5.120 bit^*
Banda di memoria nominale: 3.350 GB/s^*

Specifiche di potenza

Potenza termica di progetto: 700 W

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 22 campi

Architettura GPU — NVIDIA H100 SXM — 80 GB HBM3

Hopper^*

Picco teorico: BF16 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

989,4^* TFLOPS

Ambito e condizioni

Accumulazione: FP32^*

Picco teorico: FP16 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

989,4^* TFLOPS

Ambito e condizioni

Accumulazione: FP32^*

Picco teorico: FP32 senza unità tensoriali denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

66,9^* TFLOPS

Supporto hardware nativo: FP4 tensoriale — NVIDIA H100 SXM — 80 GB HBM3

No^*

Picco teorico: FP64 senza unità tensoriali denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

33,5^* TFLOPS

Picco teorico: FP64 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

66,9^* TFLOPS

Supporto hardware nativo: FP6 tensoriale — NVIDIA H100 SXM — 80 GB HBM3

No^*

Picco teorico: FP8 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

1.978,9^* TFLOPS

Ambito e condizioni

Accumulazione: FP32^*

Picco teorico: INT8 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

1.978,9^* TOPS

Picco teorico: TF32 tensoriale denso per GPU — NVIDIA H100 SXM — 80 GB HBM3

494,7^* TFLOPS

Configurazione fisica — NVIDIA H100 SXM — 80 GB HBM3

SXM5^*

Banda dell’interconnessione GPU (NVLink 4) bidirezionale — NVIDIA H100 SXM — 80 GB HBM3

900^* GB/s

Banda dell’interconnessione GPU per direzione — NVIDIA H100 SXM — 80 GB HBM3

450^* GB/s

Ambito e condizioni

Calcolo: 900 / 2^*

Interfaccia PCIe dichiarata — NVIDIA H100 SXM — 80 GB HBM3

PCIe Gen5: 128GB/s^*

Potenza massima della scheda — NVIDIA H100 SXM — 80 GB HBM3

700^* W

Banda massima della memoria per GPU — NVIDIA H100 SXM — 80 GB HBM3

3.350^* GB/s

Ampiezza dell’interfaccia di memoria per GPU — NVIDIA H100 SXM — 80 GB HBM3

5.120^* bit

Capacità di memoria per GPU — NVIDIA H100 SXM — 80 GB HBM3

80^* GB

Memoria riportata in un esempio documentato del driver — NVIDIA H100 SXM — 80 GB HBM3

81.559^* MiB

Ambito e condizioni

Configurazione: Esempio del driver; non è la capacità nominale della VRAM.^*

Tecnologia della memoria — NVIDIA H100 SXM — 80 GB HBM3

HBM3^*

Modello GPU — NVIDIA H100 SXM — 80 GB HBM3

NVIDIA H100 SXM^*

Specifiche 2 · 7 campi

Formato dichiarato

SXM^*

Modello grafico

H100 SXM^*

Denominazione grafica completa

NVIDIA H100 SXM^*

Produttore

NVIDIA^*

Capacità memoria dichiarata

80^* GB

Ambito e condizioni

native_context

Capacity unit base: Not independently established^*

Tecnologia memoria

HBM3^*

Potenza termica di progetto dichiarata

700^* W

Specifiche 3 · 3 campi

model

H100 GPU accelerator (SXM card)^*

Ambito e condizioni

source_native_row_context

model: H100 GPU accelerator (SXM card)^*

tdp watts

700,0^* W

Ambito e condizioni

source_native_row_context

model: H100 GPU accelerator (SXM card)^*

manufacturer

Nvidia^*

Ambito e condizioni

source_native_row_context

model: H100 GPU accelerator (SXM card)^*

Specifiche 4 · 5 campi

Nominal GPU Memory

80^* GB · HBM3^*

Ambito e condizioni

native_context

Memory scope: Nominal per-GPU memory; not the total CPU + GPU module memory or runtime-available capacity^*
memory role: nominal_release_inventory^*
not dedicated VRAM for shared memory systems: Sì^*
not runtime available or HGX usable capacity: Sì^*

GPU Aggregate Bandwidth per 8-GPU Node

26,8^* TB/s

Ambito e condizioni

native_context

capacity unit base: not_established^*
configuration: HGX 8-GPU baseboard^*
memory role: production_HGX_configuration^*
resource scope: eight_GPU_aggregate^*

Memory per 8-GPU Node

640^* GB · HBM3^*

Ambito e condizioni

native_context

capacity unit base: not_established^*
configuration: HGX 8-GPU baseboard^*
memory role: production_HGX_configuration^*
resource scope: eight_GPU_aggregate^*

GPU Bandwidth

3,35^* TB/s

Ambito e condizioni

native_context

capacity unit base: not_established^*
configuration: HGX 8-GPU baseboard^*
memory role: production_HGX_configuration^*
resource scope: per_GPU^*

Memory per GPU

80^* GB · HBM3^*

Ambito e condizioni

native_context

capacity unit base: not_established^*
configuration: HGX 8-GPU baseboard^*
memory role: production_HGX_configuration^*
resource scope: per_GPU^*

* Dati provvisori