8 × AMD Instinct MI350X 288GB HBM3e

Sistema testato

Processore: AMD EPYC 9575F
Grafica: AMD Instinct MI350X 288GB HBM3e
Numero acceleratori: 8
Nodi: 1

Risultati registrati

Ogni riga usa lo stesso benchmark, versione, carico, scenario e unità. I risultati mancanti non valgono zero. I risultati di sistema includono tutta la configurazione hardware e software.

MLPerf Inference / dlrm-v3Offline · v6.1 · Samples/s

8 × AMD Instinct MI350X 288GB HBM3e

10.891,10^* Samples/s

Accuratezza obiettivo / risultato: DLRM_NE: 0.8677294228203597 DLRM_ACC: 0.6964170290002015 DLRM_AUC: 0.7862871466027813
Precisione dei pesi: fp16,bf16,fp8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 64
Processori per nodo: 2
Nodi: 1
Acceleratori totali: 8
Stack software: PyTorch 2.10.0+rocm7.2.3, Triton 3.6.0, ROCm 7.2.3
Sistema operativo: Ubuntu 24.04 LTS (Noble Numbat), kernel 6.8.0-38-generic

MLPerf Inference / dlrm-v3Server · v6.1 · Queries/s

8 × AMD Instinct MI350X 288GB HBM3e

9.297,78^* Queries/s

Accuratezza obiettivo / risultato: DLRM_NE: 0.867728327062296 DLRM_ACC: 0.696416918732384 DLRM_AUC: 0.786287540637186
Precisione dei pesi: fp16,bf16,fp8
Divisione: closed
Tipo di sistema: datacenter
Disponibilità: available
Core per processore: 64
Processori per nodo: 2
Nodi: 1
Acceleratori totali: 8
Stack software: PyTorch 2.10.0+rocm7.2.3, Triton 3.6.0, ROCm 7.2.3
Sistema operativo: Ubuntu 24.04 LTS (Noble Numbat), kernel 6.8.0-38-generic

Elaborazione e piattaforma

Processore: AMD EPYC 9575F
Grafica: AMD Instinct MI350X 288GB HBM3e

Connettività e software

Sistema operativo: Ubuntu 24.04 LTS (Noble Numbat), kernel 6.8.0-38-generic

Configurazione di sistema

Numero di core host riportato: 64
Processori per nodo: 2
Numero acceleratori: 8
Nodi: 1
Stack software: PyTorch 2.10.0+rocm7.2.3, Triton 3.6.0, ROCm 7.2.3
Divisione del test: closed

* Dati provvisori