AMD Instinct MI300X

Acceleratori

Elaborazione e piattaforma

Architettura: CDNA 3^*

Memoria e archiviazione

Memoria video: 192 GB^*
Tipo memoria video: HBM3^*
Bus di memoria: 8.192 bit^*
Banda di memoria nominale: 5.300 GB/s^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 22 campi

Architettura GPU — AMD Instinct MI300X — 192 GB HBM3: CDNA 3^*
Picco teorico: BF16 tensoriale denso per GPU — AMD Instinct MI300X — 192 GB HBM3: 1.307,4^* TFLOPS
Picco teorico: FP16 tensoriale denso per GPU — AMD Instinct MI300X — 192 GB HBM3: 1.307,4^* TFLOPS
Picco teorico: FP32 senza unità tensoriali denso per GPU — AMD Instinct MI300X — 192 GB HBM3: 163,4^* TFLOPS
Supporto hardware nativo: FP4 tensoriale — AMD Instinct MI300X — 192 GB HBM3: No^*
Picco teorico: FP64 senza unità tensoriali denso per GPU — AMD Instinct MI300X — 192 GB HBM3: 81,7^* TFLOPS
Picco teorico: FP64 tensoriale denso per GPU — AMD Instinct MI300X — 192 GB HBM3: 163,4^* TFLOPS
Supporto hardware nativo: FP6 tensoriale — AMD Instinct MI300X — 192 GB HBM3: No^*
Picco teorico: FP8 tensoriale denso per GPU — AMD Instinct MI300X — 192 GB HBM3: 2.614,9^* TFLOPS
Picco teorico: INT8 tensoriale denso per GPU — AMD Instinct MI300X — 192 GB HBM3: 2.614,9^* TOPS
Picco teorico: TF32 tensoriale denso per GPU — AMD Instinct MI300X — 192 GB HBM3: 653,7^* TFLOPS
Configurazione fisica — AMD Instinct MI300X — 192 GB HBM3: OAM^*
Banda dell’interconnessione GPU (Infinity Fabric) bidirezionale — AMD Instinct MI300X — 192 GB HBM3: 896^* GB/s
Banda dell’interconnessione GPU per direzione — AMD Instinct MI300X — 192 GB HBM3: 448^* GB/s
Numero di collegamenti Infinity Fabric — AMD Instinct MI300X — 192 GB HBM3: 7^* links
Interfaccia PCIe dichiarata — AMD Instinct MI300X — 192 GB HBM3: PCIe Gen 5 x16^*
Potenza massima della scheda — AMD Instinct MI300X — 192 GB HBM3: 750^* W
Banda massima della memoria per GPU — AMD Instinct MI300X — 192 GB HBM3: 5.300^* GB/s
Ampiezza dell’interfaccia di memoria per GPU — AMD Instinct MI300X — 192 GB HBM3: 8.192^* bit
Capacità di memoria per GPU — AMD Instinct MI300X — 192 GB HBM3: 192^* GB
Tecnologia della memoria — AMD Instinct MI300X — 192 GB HBM3: HBM3^*
Modello GPU — AMD Instinct MI300X — 192 GB HBM3: AMD Instinct MI300X^*

Specifiche 2 · 15 campi

device name: AMD Instinct MI300X^*
typical power w: 750^* W
hbm memory gb: 192^* GB
memory bandwidth tb s: 5,3^*
headline metric: 2614.9 TOPS INT8 dense (5229.8 sparse); 192 GB HBM3, the largest on-package memory of the GPU baselines^*
source type: Vendor^*
vendor: AMD^*
tops per watt calc: 3,487^*
compute paradigm: Electronic^*
device type: GPU^*
release year: 2023^*
maturity: Commercial^*
precision: INT8/FP8^*
throughput unit: TOPS^*
peak throughput: 2.614,9^*

* Dati provvisori