GeekRadar / Il banco di confronto

CONFRONTA.

GPU

NVIDIA

H100 NVL 94 GB

Processore grafico

Memoria video: 94 GB^*
Bus di memoria: 6.016 bit^*
Banda di memoria nominale: 3.938 GB/s^*

Non sono ancora disponibili benchmark associati a questa scheda.

Elaborazione e piattaforma

Architettura: Hopper^*
Nodo produttivo: 5 nm^*
Frequenza base GPU: 1.080 MHz^*
Frequenza boost GPU: 1.785 MHz^*

Memoria e archiviazione

Memoria video: 94 GB^*
Tipo memoria video: HBM3^*
Bus di memoria: 6.016 bit^*
Banda di memoria nominale: 3.938 GB/s^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 27 campi

Architettura GPU — NVIDIA H100 NVL — 94 GB HBM3

Hopper^*

Picco teorico calcolato: BF16 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

835,5^* TFLOPS

Ambito e condizioni

Calcolo: 1671 / 2^*

Picco teorico: BF16 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

1.671^* TFLOPS

Picco teorico calcolato: FP16 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

835,5^* TFLOPS

Ambito e condizioni

Calcolo: 1671 / 2^*

Picco teorico: FP16 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

1.671^* TFLOPS

Picco teorico: FP32 senza unità tensoriali denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

60^* TFLOPS

Supporto hardware nativo: FP4 tensoriale — NVIDIA H100 NVL — 94 GB HBM3

No^*

Picco teorico: FP64 senza unità tensoriali denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

30^* TFLOPS

Picco teorico: FP64 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

60^* TFLOPS

Supporto hardware nativo: FP6 tensoriale — NVIDIA H100 NVL — 94 GB HBM3

No^*

Picco teorico calcolato: FP8 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

1.670,5^* TFLOPS

Ambito e condizioni

Calcolo: 3341 / 2^*

Picco teorico: FP8 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

3.341^* TFLOPS

Picco teorico calcolato: INT8 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

1.670,5^* TOPS

Ambito e condizioni

Calcolo: 3341 / 2^*

Picco teorico: INT8 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

3.341^* TOPS

Picco teorico calcolato: TF32 tensoriale denso per GPU — NVIDIA H100 NVL — 94 GB HBM3

417,5^* TFLOPS

Ambito e condizioni

Calcolo: 835 / 2^*

Picco teorico: TF32 tensoriale con sparsità per GPU — NVIDIA H100 NVL — 94 GB HBM3

835^* TFLOPS

Configurazione fisica — NVIDIA H100 NVL — 94 GB HBM3

NVL (PCIe dual-slot, NVLink bridge)^*

Banda dell’interconnessione GPU (NVLink 4 (three NVLink bridges, two cards)) bidirezionale — NVIDIA H100 NVL — 94 GB HBM3

600^* GB/s

Banda dell’interconnessione GPU per direzione — NVIDIA H100 NVL — 94 GB HBM3

300^* GB/s

Ambito e condizioni

Calcolo: 600 / 2^*

Interfaccia PCIe dichiarata — NVIDIA H100 NVL — 94 GB HBM3

PCIe Gen5: 128GB/s^*

Potenza massima della scheda — NVIDIA H100 NVL — 94 GB HBM3

400^* W

Banda massima della memoria per GPU — NVIDIA H100 NVL — 94 GB HBM3

3.938^* GB/s

Ampiezza dell’interfaccia di memoria per GPU — NVIDIA H100 NVL — 94 GB HBM3

6.016^* bit

Capacità di memoria per GPU — NVIDIA H100 NVL — 94 GB HBM3

94^* GB

Memoria riportata in un esempio documentato del driver — NVIDIA H100 NVL — 94 GB HBM3

95.830^* MiB

Ambito e condizioni

Configurazione: Esempio del driver; non è la capacità nominale della VRAM.^*

Tecnologia della memoria — NVIDIA H100 NVL — 94 GB HBM3

HBM3^*

Modello GPU — NVIDIA H100 NVL — 94 GB HBM3

NVIDIA H100 NVL^*

Specifiche 2 · 52 campi

Brand: NVIDIA^*
Top BUS WIDTH: 6.016^* bit
Graphics Processor GPU Name: GH100^*
Graphics Processor Architecture: Hopper^*
Render Config SM Count: 132^*
Graphics Features CUDA: 9^*
Render Config Tensor Cores: 528^*
Graphics Processor Process Size: 5^* nm
Graphics Processor Transistors: 80,000 million^*
Graphics Processor Die Size: 814^* mm²
Graphics Card Release Date: Mar 21st, 2023^*
Graphics Card Generation: Server Hopper (Hxx)^*
Graphics Card Successor: Server Blackwell^*
Graphics Card Production: Active^*
Name: H100 NVL 94 GB^*
Graphics Card Bus Interface: PCIe 5.0 x16^*
Clock Speeds Memory Clock: 1310 MHz 5.2 Gbps effective^*
Memory Memory Size: 94^* GB
Memory Memory Type: HBM3^*
Memory Memory Bus: 6.016^* bit
Memory Bandwidth: 3.94 TB/s^*
Render Config TMUs: 528^*
Top GRAPHICS PROCESSOR: GH100^*
Render Config ROPs: 24^*
Theoretical Performance Pixel Rate: 42.84 GPixel/s
Theoretical Performance Texture Rate: 942.5 GTexel/s
Board Design Slot Width: Dual-slot^*
Board Design TDP: 400^* W
Board Design Suggested PSU: 800^* W
Board Design Outputs: No outputs^*
Board Design Board Number: P1010 SKU 210^*
Graphics Features OpenCL: 3^*
source file: nvidia2023.json^*
Graphics Processor Foundry: TSMC^*
Graphics Card Predecessor: Server Ada^*
Board Design Length: 267 mm 10.5 inches^*
Board Design Power Connectors: 8-pin EPS^*
Graphics Processor Density: 98.3M / mm²^*
Board Design Height: 111 mm 4.4 inches^*
Top TMUS: 528^*
Top ROPS: 24^*
Clock Speeds Base Clock: 1.080^* MHz
Clock Speeds Boost Clock: 1.785^* MHz
Top CORES: 16.896^*
Render Config Shading Units: 16.896^*
Render Config L2 Cache: 50^* MB
Top MEMORY SIZE: 94^* GB
Theoretical Performance FP32 (float): 60,32^* TFLOPS
Theoretical Performance FP64 (double): 30.16 TFLOPS (1:2)
Render Config L1 Cache: 256 KB (per SM)^*
Theoretical Performance FP16 (half): 241.3 TFLOPS (4:1)
Top MEMORY TYPE: HBM3^*

* Dati provvisori