4 × Intel(R) Arc(TM) Pro B70

Sistema testato

Processore: Intel(R) Xeon(R) 698X
Grafica: Intel(R) Arc(TM) Pro B70
Numero acceleratori: 4
Nodi: 1

Risultati registrati

Ogni riga usa lo stesso benchmark, versione, carico, scenario e unità. I risultati mancanti non valgono zero. I risultati di sistema includono tutta la configurazione hardware e software.

MLPerf Inference / gpt-oss-120bOffline · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

1.956,40^* Tokens/s

Accuratezza obiettivo / risultato: exact_match: 83.674
Precisione dei pesi: MXFP4
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / gpt-oss-120bServer · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

1.296,87^* Tokens/s

Accuratezza obiettivo / risultato: exact_match: 83.489
Precisione dei pesi: MXFP4
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / llama2-70b-99.9Offline · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

2.464,98^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 44.5947 ROUGE2: 22.2074 ROUGEL: 28.8264 TOKENS_PER_SAMPLE: 290.8
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / llama2-70b-99.9Server · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

1.745,48^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 44.5937 ROUGE2: 22.2052 ROUGEL: 28.8276 TOKENS_PER_SAMPLE: 290.8
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / llama3_1-8bOffline · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

4.613,28^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 38.843 ROUGE2: 16.0878 ROUGEL: 24.6429 ROUGELSUM: 35.9449 GEN_LEN: 8127480
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / llama3_1-8bServer · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

4.173,25^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 38.8131 ROUGE2: 16.0827 ROUGEL: 24.6388 ROUGELSUM: 35.9153 GEN_LEN: 8126165
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / whisperOffline · v6.1 · Samples/s

4 × Intel(R) Arc(TM) Pro B70

5.539,77^* Samples/s

Accuratezza obiettivo / risultato: ACCURACY: 97.45763518206644
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 86
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

Elaborazione e piattaforma

Processore: Intel(R) Xeon(R) 698X
Grafica: Intel(R) Arc(TM) Pro B70

Connettività e software

Sistema operativo: Ubuntu 24.04.4 LTS

Configurazione di sistema

Numero di core host riportato: 86
Processori per nodo: 1
Numero acceleratori: 4
Nodi: 1
Stack software: PyTorch
Divisione del test: closed

* Dati provvisori