GeekRadar / Il banco di confronto
CONFRONTA.
Sistemi testati
Cisco

4 × NVIDIA RTX PRO 4500 Blackwell

Sistema testato

Processore
Intel(R) Xeon(R) 6747P
Grafica
NVIDIA RTX PRO 4500 Blackwell
Numero acceleratori
4
Nodi
1

Risultati registrati

Ogni riga usa lo stesso benchmark, versione, carico, scenario e unità. I risultati mancanti non valgono zero. I risultati di sistema includono tutta la configurazione hardware e software.

MLPerf Inference / llama3.1-8bOffline · v6.1 · Tokens/s

4 × NVIDIA RTX PRO 4500 Blackwell

9.518,66* Tokens/s

Accuratezza obiettivo / risultato
ROUGE1: 38.7664 ROUGE2: 16.0107 ROUGEL: 24.5281 ROUGELSUM: 35.6917 GEN_LEN: 8178365
Precisione dei pesi
fp4
Divisione
closed
Tipo di sistema
datacenter
Disponibilità
available
Core per processore
48
Processori per nodo
2
Nodi
1
Acceleratori totali
4
Stack software
TensorRT 10.14, CUDA 13.1
Sistema operativo
Ubuntu 24.04
MLPerf Inference / llama3.1-8bServer · v6.1 · Tokens/s

4 × NVIDIA RTX PRO 4500 Blackwell

9.277,73* Tokens/s

Accuratezza obiettivo / risultato
ROUGE1: 38.7836 ROUGE2: 16.0298 ROUGEL: 24.5367 ROUGELSUM: 35.7048 GEN_LEN: 8178628
Precisione dei pesi
fp4
Divisione
closed
Tipo di sistema
datacenter
Disponibilità
available
Core per processore
48
Processori per nodo
2
Nodi
1
Acceleratori totali
4
Stack software
TensorRT 10.14, CUDA 13.1
Sistema operativo
Ubuntu 24.04
MLPerf Inference / whisperOffline · v6.1 · Samples/s

4 × NVIDIA RTX PRO 4500 Blackwell

3.877,67* Samples/s

Accuratezza obiettivo / risultato
ACCURACY: 97.86822996469256
Precisione dei pesi
fp16
Divisione
closed
Tipo di sistema
datacenter
Disponibilità
available
Core per processore
48
Processori per nodo
2
Nodi
1
Acceleratori totali
4
Stack software
TensorRT 10.14, CUDA 13.1
Sistema operativo
Ubuntu 24.04

Elaborazione e piattaforma

Processore
Intel(R) Xeon(R) 6747P
Grafica
NVIDIA RTX PRO 4500 Blackwell

Connettività e software

Sistema operativo
Ubuntu 24.04

Configurazione di sistema

Numero di core host riportato
48
Processori per nodo
2
Numero acceleratori
4
Nodi
1
Stack software
TensorRT 10.14, CUDA 13.1
Divisione del test
closed

* Dati provvisori