GeekRadar / Il banco di confronto

CONFRONTA.

GPU

NVIDIA

NVIDIA H100 NVL 94 GB

Processore grafico

Memoria video: 94 GB^*
Bus di memoria: 6.016 bit^*
Banda di memoria nominale: 3.950 GB/s^*

Non sono ancora disponibili benchmark associati a questa scheda.

Elaborazione e piattaforma

Architettura: Hopper^*
Nodo produttivo: 5 nm^*
Core GPU: 16.896^*
Interfaccia grafica: PCIe 5.0 x16^*
Area del chip dichiarata: 814 mm²^*
Transistor: 80.000 million^*
Cache L2 GPU: 60 MB^*
Processore grafico: GH100^*
Unità di texture mapping: 528^*
Unità di rasterizzazione: 24^*
Multiprocessori streaming: 132^*
Tensor core: 528^*
Fonderia del chip: TSMC^*
Formato scheda o modulo: Dual-slot^*
TDP GPU dichiarato: 400 W^*
Alimentatore di sistema suggerito: 800 W^*
Connettori di alimentazione esterni: 8-pin EPS^*
OpenCL: 3.0^*
Compute capability CUDA: 9.0^*

Memoria e archiviazione

Opzioni memoria: 94^*
Memoria video: 94 GB^*
Tipo memoria video: HBM3^*
Bus di memoria: 6.016 bit^*
Banda di memoria nominale: 3.950 GB/s^*

Specifiche di potenza

Potenza termica di progetto: 400 W^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 27 campi

Architettura GPU — NVIDIA H100 NVL — 94 GB HBM3

Hopper^*

Picco teorico calcolato: BF16 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

835,5^* TFLOPS

Ambito e condizioni

Calcolo: 1671 / 2^*

Picco teorico: BF16 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

1.671^* TFLOPS

Picco teorico calcolato: FP16 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

835,5^* TFLOPS

Ambito e condizioni

Calcolo: 1671 / 2^*

Picco teorico: FP16 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

1.671^* TFLOPS

Picco teorico: FP32 senza unità tensoriali denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

60^* TFLOPS

Supporto hardware nativo: FP4 tensoriale — NVIDIA H100 NVL — 94 GB HBM3

No^*

Picco teorico: FP64 senza unità tensoriali denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

30^* TFLOPS

Picco teorico: FP64 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

60^* TFLOPS

Supporto hardware nativo: FP6 tensoriale — NVIDIA H100 NVL — 94 GB HBM3

No^*

Picco teorico calcolato: FP8 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

1.670,5^* TFLOPS

Ambito e condizioni

Calcolo: 3341 / 2^*

Picco teorico: FP8 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

3.341^* TFLOPS

Picco teorico calcolato: INT8 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

1.670,5^* TOPS

Ambito e condizioni

Calcolo: 3341 / 2^*

Picco teorico: INT8 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

3.341^* TOPS

Picco teorico calcolato: TF32 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

417,5^* TFLOPS

Ambito e condizioni

Calcolo: 835 / 2^*

Picco teorico: TF32 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

835^* TFLOPS

Configurazione fisica — NVIDIA H100 NVL — 94 GB HBM3

NVL (PCIe dual-slot, NVLink bridge)^*

Banda dell’interconnessione GPU (NVLink 4 (three NVLink bridges, two cards)) bidirezionale — NVIDIA H100 NVL — 94 GB HBM3

600^* GB/s

Banda dell’interconnessione GPU per direzione — NVIDIA H100 NVL — 94 GB HBM3

300^* GB/s

Ambito e condizioni

Calcolo: 600 / 2^*

Interfaccia PCIe dichiarata — NVIDIA H100 NVL — 94 GB HBM3

PCIe Gen5: 128GB/s^*

Potenza massima della scheda — NVIDIA H100 NVL — 94 GB HBM3

400^* W

Banda massima della memoria per GPU — NVIDIA H100 NVL — 94 GB HBM3

3.938^* GB/s

Ampiezza dell’interfaccia di memoria per GPU — NVIDIA H100 NVL — 94 GB HBM3

6.016^* bit

Capacità di memoria per GPU — NVIDIA H100 NVL — 94 GB HBM3

94^* GB

Memoria riportata in un esempio documentato del driver — NVIDIA H100 NVL — 94 GB HBM3

95.830^* MiB

Ambito e condizioni

Configurazione: Esempio del driver; non è la capacità nominale della VRAM.^*

Tecnologia della memoria — NVIDIA H100 NVL — 94 GB HBM3

HBM3^*

Modello GPU — NVIDIA H100 NVL — 94 GB HBM3

NVIDIA H100 NVL^*

Specifiche 2 · 30 campi

proc transistors: 80,000 million^*
proc die size: 814^* mm²
cores: 16.896^*
tensor cores: 528^*
sm count: 132^*
base clock: 1.080^*
boost clock: 1.785^*
memory clock: 1.310^*
ram: 94^*
name: NVIDIA H100 NVL 94 GB^*
ram type: HBM3^*
bus width: 6.016^*
bus interface: PCIe 5.0 x16^*
ram bandwidth: 3.94 TB/s^*
fp16 performance: 241,3^*
fp32 performance: 60,32^*
fp64 performance: 30,16^*
tdp: 400^* W
suggested psu: 800^* W
slot width: Dual-slot^*
power connectors: 8-pin EPS^*
api cuda: 9^*
is retail board: No^*
gpi value: 57,23^*
vendor: nvd^*
manufacturer: NVIDIA^*
arch name: Hopper^*
card release date: 2023-03-21^*
proc foundry: TSMC^*
proc process size: 5^* nm

Specifiche 3 · 35 campi

Compute capability CUDA

9.0^*

OpenCL

3.0^*

Picco teorico BF16 dichiarato

965,1^* TFLOPS

Ambito e condizioni

Densità del calcolo: Non specificata^*

Interfaccia grafica

PCIe 5.0 x16^*

Bus di memoria

6.016^* bit

Shader processor dichiarati

16.896^*

Picco teorico FP16 dichiarato

120,6^* TFLOPS

Ambito e condizioni

Densità del calcolo: Non specificata^*

Picco teorico FP32 dichiarato

60,32^* TFLOPS

Ambito e condizioni

Densità del calcolo: Non specificata^*

Picco teorico FP64 dichiarato

30,16^* TFLOPS

Ambito e condizioni

Densità del calcolo: Non specificata^*

Configurazione cache L1 dichiarata

256 KB (per SM)^*

Cache L2 GPU dichiarata

60 MB^*

Uscite video dichiarate

No outputs^*

Fill rate teorico dei pixel

42.84 GPixel/s^*

Connettori di alimentazione esterni

8-pin EPS^*

Area del chip dichiarata

814 mm²^*

Fonderia del chip

TSMC^*

Nodo produttivo dichiarato

5 nm^*

Transistor

80.0 billion^*

Processore grafico

GH100^*

Memoria video dichiarata

94^* GB

Banda di memoria nominale

3.95 TB/s^*

Tipo memoria video

HBM3^*

Unità di rasterizzazione

24^*

Unità shader dichiarate

16.896^*

Formato scheda o modulo

Dual-slot^*

Multiprocessori streaming

132^*

Alimentatore di sistema suggerito

800 W^*

TDP GPU dichiarato

400 W^*

Tensor core

528^*

Fill rate teorico delle texture

942.5 GTexel/s^*

Picco teorico TF32 dichiarato

482,5^* TFLOPS

Ambito e condizioni

Densità del calcolo: Non specificata^*

Unità di texture mapping

528^*

Core GPU

16.896^*

Memoria video

94^* GB

Tipo memoria video

HBM3^*

* Dati provvisori