GeekRadar / Il banco di confronto
CONFRONTA.
Sistemi testati4 × NVIDIA RTX PRO 4500 Blackwell
Sistema testato
- Processore
- Intel(R) Xeon(R) 6747P
- Grafica
- NVIDIA RTX PRO 4500 Blackwell
- Numero acceleratori
- 4
- Nodi
- 1
Risultati registrati
Ogni riga usa lo stesso benchmark, versione, carico, scenario e unità. I risultati mancanti non valgono zero. I risultati di sistema includono tutta la configurazione hardware e software.
MLPerf Inference / llama3.1-8bOffline · v6.1 · Tokens/s
4 × NVIDIA RTX PRO 4500 Blackwell
9.518,66* Tokens/s
- Accuratezza obiettivo / risultato
- ROUGE1: 38.7664 ROUGE2: 16.0107 ROUGEL: 24.5281 ROUGELSUM: 35.6917 GEN_LEN: 8178365
- Precisione dei pesi
- fp4
- Divisione
- closed
- Tipo di sistema
- datacenter
- Disponibilità
- available
- Core per processore
- 48
- Processori per nodo
- 2
- Nodi
- 1
- Acceleratori totali
- 4
- Stack software
- TensorRT 10.14, CUDA 13.1
- Sistema operativo
- Ubuntu 24.04
MLPerf Inference / llama3.1-8bServer · v6.1 · Tokens/s
4 × NVIDIA RTX PRO 4500 Blackwell
9.277,73* Tokens/s
- Accuratezza obiettivo / risultato
- ROUGE1: 38.7836 ROUGE2: 16.0298 ROUGEL: 24.5367 ROUGELSUM: 35.7048 GEN_LEN: 8178628
- Precisione dei pesi
- fp4
- Divisione
- closed
- Tipo di sistema
- datacenter
- Disponibilità
- available
- Core per processore
- 48
- Processori per nodo
- 2
- Nodi
- 1
- Acceleratori totali
- 4
- Stack software
- TensorRT 10.14, CUDA 13.1
- Sistema operativo
- Ubuntu 24.04
MLPerf Inference / whisperOffline · v6.1 · Samples/s
4 × NVIDIA RTX PRO 4500 Blackwell
3.877,67* Samples/s
- Accuratezza obiettivo / risultato
- ACCURACY: 97.86822996469256
- Precisione dei pesi
- fp16
- Divisione
- closed
- Tipo di sistema
- datacenter
- Disponibilità
- available
- Core per processore
- 48
- Processori per nodo
- 2
- Nodi
- 1
- Acceleratori totali
- 4
- Stack software
- TensorRT 10.14, CUDA 13.1
- Sistema operativo
- Ubuntu 24.04
Elaborazione e piattaforma
- Processore
- Intel(R) Xeon(R) 6747P
- Grafica
- NVIDIA RTX PRO 4500 Blackwell
Connettività e software
- Sistema operativo
- Ubuntu 24.04
Configurazione di sistema
- Numero di core host riportato
- 48
- Processori per nodo
- 2
- Numero acceleratori
- 4
- Nodi
- 1
- Stack software
- TensorRT 10.14, CUDA 13.1
- Divisione del test
- closed
0 selezionati Confronta 0
* Dati provvisori