8 × AMD Instinct MI355X

Sistema testato

Processore: AMD EPYC 9575F
Grafica: AMD Instinct MI355X
Numero acceleratori: 8
Nodi: 1

Risultati registrati

Ogni riga usa lo stesso benchmark, versione, carico, scenario e unità. I risultati mancanti non valgono zero. I risultati di sistema includono tutta la configurazione hardware e software.

MLPerf Inference / dlrm-v3Offline · v6.1 · Samples/s

8 × AMD Instinct MI355X

16.363^* Samples/s

Accuratezza obiettivo / risultato: DLRM_NE: 0.8678795984098008 DLRM_ACC: 0.6962884623080815 DLRM_AUC: 0.7861666437936649
Precisione dei pesi: fp16,bf16,fp8
Divisione: open
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 64 cores per socket, 128 total cores, 256 threads
Processori per nodo: 2
Nodi: 1
Acceleratori totali: 8
Stack software: PyTorch 2.10.0+rocm7.2.3.git1a270074, Triton 3.6.0, ROCm 7.2.3
Sistema operativo: Ubuntu 24.04.3 LTS (Noble Numbat), kernel 6.8.0-134-generic

MLPerf Inference / dlrm-v3Server · v6.1 · Queries/s

8 × AMD Instinct MI355X

16.194,40^* Queries/s

Accuratezza obiettivo / risultato: DLRM_NE: 0.8678772746839061 DLRM_ACC: 0.6962803331970739 DLRM_AUC: 0.7861629372250531
Precisione dei pesi: fp16,bf16,fp8
Divisione: open
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 64 cores per socket, 128 total cores, 256 threads
Processori per nodo: 2
Nodi: 1
Acceleratori totali: 8
Stack software: PyTorch 2.10.0+rocm7.2.3.git1a270074, Triton 3.6.0, ROCm 7.2.3
Sistema operativo: Ubuntu 24.04.3 LTS (Noble Numbat), kernel 6.8.0-134-generic

Elaborazione e piattaforma

Processore: AMD EPYC 9575F
Grafica: AMD Instinct MI355X

Connettività e software

Sistema operativo: Ubuntu 24.04.3 LTS (Noble Numbat), kernel 6.8.0-134-generic

Configurazione di sistema

Processori per nodo: 2
Numero acceleratori: 8
Nodi: 1
Stack software: PyTorch 2.10.0+rocm7.2.3.git1a270074, Triton 3.6.0, ROCm 7.2.3
Divisione del test: open

* Dati provvisori