Intel(R) Xeon(R) 6787P

Sistema testato

Processore: Intel(R) Xeon(R) 6787P
Numero acceleratori: 0
Nodi: 1

Risultati registrati

Ogni riga usa lo stesso benchmark, versione, carico, scenario e unità. I risultati mancanti non valgono zero. I risultati di sistema includono tutta la configurazione hardware e software.

MLPerf Inference / llama3_1-8bOffline · v6.1 · Tokens/s

Intel(R) Xeon(R) 6787P

1.227,99^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 38.6229 ROUGE2: 15.8107 ROUGEL: 24.4082 ROUGELSUM: 35.6517 GEN_LEN: 8188478
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 2
Nodi: 1
Acceleratori totali: 0
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04 LTS

MLPerf Inference / llama3_1-8bServer · v6.1 · Tokens/s

Intel(R) Xeon(R) 6787P

516,01^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 38.6453 ROUGE2: 15.8841 ROUGEL: 24.4777 ROUGELSUM: 35.7016 GEN_LEN: 8176464
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 2
Nodi: 1
Acceleratori totali: 0
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04 LTS

MLPerf Inference / rgatOffline · v6.1 · Samples/s

Intel(R) Xeon(R) 6787P

16.042,80^* Samples/s

Accuratezza obiettivo / risultato: acc: 72.570
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 2
Nodi: 1
Acceleratori totali: 0
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04 LTS

MLPerf Inference / whisperOffline · v6.1 · Samples/s

Intel(R) Xeon(R) 6787P

1.539,49^* Samples/s

Accuratezza obiettivo / risultato: ACCURACY: 97.89904372234645
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 2
Nodi: 1
Acceleratori totali: 0
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04 LTS

Elaborazione e piattaforma

Processore: Intel(R) Xeon(R) 6787P

Connettività e software

Sistema operativo: Ubuntu 24.04 LTS

Configurazione di sistema

Numero di core host riportato: 86
Processori per nodo: 2
Numero acceleratori: 0
Nodi: 1
Stack software: PyTorch
Divisione del test: closed

* Dati provvisori