GeekRadar / Il banco di confronto

CONFRONTA.

GPU

NVIDIA

NVIDIA RTX PRO 6000 Blackwell Server

Processore grafico

Memoria video: 96 GB^*
Bus di memoria: 512 bit^*
Banda di memoria nominale: 1.600 GB/s^*

Risultati dei benchmark

LLM Inference: Geekbench AI: Geekbench AI Half Precision (fp16) · versione non riportata · score53.322^* pointsPiattaforma non riportata Confronta i risultati
LLM Inference: Geekbench AI: Geekbench AI Quantized (int8) · versione non riportata · score28.264^* pointsPiattaforma non riportata Confronta i risultati
LLM Inference: Geekbench AI: Geekbench AI Single Precision (fp32) · versione non riportata · score37.299^* pointsPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama2-70b-99 (fp4) · versione non riportata · score3.250,74^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama2-70b-99.9 (fp4) · versione non riportata · score3.250,13^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama3.1-8b (fp4) · versione non riportata · score5.757,50^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: mixtral-8x7b (fp8) · versione non riportata · score3.766,79^* tokens/sPiattaforma non riportata Confronta i risultati

Elaborazione e piattaforma

Architettura: Blackwell 2.0^*
Nodo produttivo: 5 nm^*
Core GPU: 24.064^*
Interfaccia grafica: PCIe 5.0 x16^*
Area del chip dichiarata: 750 mm²^*
Transistor: 92.200 million^*
Cache L2 GPU: 128 MB^*
Processore grafico: GB202^*
Unità di texture mapping: 752^*
Unità di rasterizzazione: 192^*
Multiprocessori streaming: 188^*
Tensor core: 752^*
Core ray tracing: 188^*
Fonderia del chip: TSMC^*
Formato scheda o modulo: Dual-slot^*
TDP GPU dichiarato: 600 W^*
Alimentatore di sistema suggerito: 1.000 W^*
Connettori di alimentazione esterni: 1x 16-pin^*
DirectX / feature level: 12 Ultimate (12_2)^*
OpenGL: 4.6^*
OpenCL: 3.0^*
Vulkan: 1.4^*
Compute capability CUDA: 12.0^*
Shader model: 6.9^*

Memoria e archiviazione

Opzioni memoria: 96^*
Memoria video: 96 GB^*
Tipo memoria video: GDDR7^*
Bus di memoria: 512 bit^*
Banda di memoria nominale: 1.600 GB/s^*

Specifiche di potenza

Potenza termica di progetto: 600 W^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 11 campi

Architettura GPU — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: Blackwell^*
Picco teorico: FP32 senza unità tensoriali denso per GPU — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: 120^* TFLOPS
Configurazione fisica — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: PCIe, FHFL, dual slot, passive (4.4 in H x 10.5 in L)^*
Supporto hardware nativo per l’interconnessione fra GPU — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: No^*
Interfaccia PCIe dichiarata — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: PCIe Gen 5 x16^*
Potenza massima della scheda — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: 600^* W
Banda massima della memoria per GPU — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: 1.597^* GB/s
Ampiezza dell’interfaccia di memoria per GPU — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: 512^* bit
Capacità di memoria per GPU — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: 96^* GB
Tecnologia della memoria — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: GDDR7^*
Modello GPU — NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 GB GDDR7: NVIDIA RTX PRO 6000 Blackwell Server Edition^*

Specifiche 2 · 52 campi

proc transistors

92,200 million^*

proc die size

750^* mm²

cores

24.064^*

tensor cores

752^*

rt cores

188^*

sm count

188^*

base clock

1.590^*

boost clock

2.617^*

memory clock

1.750^*

ram

96^*

name

NVIDIA RTX PRO 6000 Blackwell Server^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama2-70b-99 (fp4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: Geekbench AI: Geekbench AI Half Precision (fp16)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: Geekbench AI: Geekbench AI Single Precision (fp32)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama3.1-8b (fp4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama2-70b-99.9 (fp4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: Geekbench AI: Geekbench AI Quantized (int8)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: mixtral-8x7b (fp8)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

ram type

GDDR7^*

bus width

512^*

bus interface

PCIe 5.0 x16^*

ram bandwidth

1.79 TB/s^*

fp16 performance

126^*

fp32 performance

126^*

fp64 performance

1,968^*

score Risultato benchmark grafico

37.299^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

score Risultato benchmark grafico

3.250,125^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

score Risultato benchmark grafico

53.322^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

score Risultato benchmark grafico

28.264^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

score Risultato benchmark grafico

5.757,5^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

score Risultato benchmark grafico

3.766,7875^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

score Risultato benchmark grafico

3.250,7375^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

tdp

600^* W

suggested psu

1.000^* W

slot width

Dual-slot^*

power connectors

1x 16-pin^*

api cuda

12^*

is retail board

No^*

gpi value

57,47^*