4 × Intel(R) Arc(TM) Pro B70

Sistema testato

Processore: Intel(R) Xeon(R) 6731P
Grafica: Intel(R) Arc(TM) Pro B70
Numero acceleratori: 4
Nodi: 1

Risultati registrati

Ogni riga usa lo stesso benchmark, versione, carico, scenario e unità. I risultati mancanti non valgono zero. I risultati di sistema includono tutta la configurazione hardware e software.

MLPerf Inference / gpt-oss-120bOffline · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

2.063,93^* Tokens/s

Accuratezza obiettivo / risultato: exact_match: 83.780
Precisione dei pesi: MXFP4
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 32
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / gpt-oss-120bServer · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

1.351,13^* Tokens/s

Accuratezza obiettivo / risultato: exact_match: 84.186
Precisione dei pesi: MXFP4
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 32
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / llama2-70b-99.9Offline · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

2.484,14^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 44.585 ROUGE2: 22.2008 ROUGEL: 28.8241 TOKENS_PER_SAMPLE: 290.8
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 32
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / llama2-70b-99.9Server · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

1.759,95^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 44.591 ROUGE2: 22.2044 ROUGEL: 28.8277 TOKENS_PER_SAMPLE: 290.8
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 32
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / llama3_1-8bOffline · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

4.596,62^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 38.8447 ROUGE2: 16.0909 ROUGEL: 24.6442 ROUGELSUM: 35.9477 GEN_LEN: 8127563
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 32
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / llama3_1-8bServer · v6.1 · Tokens/s

4 × Intel(R) Arc(TM) Pro B70

4.208,73^* Tokens/s

Accuratezza obiettivo / risultato: ROUGE1: 38.8128 ROUGE2: 16.082 ROUGEL: 24.6384 ROUGELSUM: 35.9155 GEN_LEN: 8126189
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 32
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

MLPerf Inference / whisperOffline · v6.1 · Samples/s

4 × Intel(R) Arc(TM) Pro B70

5.854,85^* Samples/s

Accuratezza obiettivo / risultato: ACCURACY: 97.49980776624375
Precisione dei pesi: INT8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 32
Processori per nodo: 1
Nodi: 1
Acceleratori totali: 4
Stack software: PyTorch
Sistema operativo: Ubuntu 24.04.4 LTS

Elaborazione e piattaforma

Processore: Intel(R) Xeon(R) 6731P
Grafica: Intel(R) Arc(TM) Pro B70

Connettività e software

Sistema operativo: Ubuntu 24.04.4 LTS

Configurazione di sistema

Numero di core host riportato: 32
Processori per nodo: 1
Numero acceleratori: 4
Nodi: 1
Stack software: PyTorch
Divisione del test: closed

* Dati provvisori