GeekRadar / Il banco di confronto

CONFRONTA.

GPU

AMD

Radeon Instinct MI355X

Processore grafico

Memoria video: 288 GB^*
Bus di memoria: 8.192 bit^*
Banda di memoria nominale: 8.190,00 GB/s^*

Risultati dei benchmark

LLM Inference: MLPerf: llama2-70b-99 (mxfp4) · versione non riportata · score10.128,88^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama2-70b-99.9 (mxfp4) · versione non riportata · score10.128,88^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama3.1-405b (mxfp4) · versione non riportata · score252,38^* tokens/sPiattaforma non riportata Confronta i risultati

Elaborazione e piattaforma

Architettura: CDNA 3.0^*
Nodo produttivo: Valore riportato 1: 5 nm^*
Valore riportato 2: 3 nm^*
Valore riportato 3: 3 nm^*
Core GPU: 16.384^*
Frequenza base GPU: 1.000 MHz^*
Interfaccia grafica: PCIe 5.0 x16^*
Area del chip dichiarata: 2.380 mm²^*
Transistor: 185.000 million^*
Frequenza boost GPU: 2.400 MHz^*
Cache L2 GPU: 32 MB^*
Processore grafico: MI350^*
Unità di texture mapping: 1.024^*
Unità di rasterizzazione: 0^*
Fonderia del chip: TSMC^*
Formato scheda o modulo: OAM Module^*
TDP GPU dichiarato: 1.400 W^*
Alimentatore di sistema suggerito: 1.800 W^*
Connettori di alimentazione esterni: None^*
OpenCL: 3.0^*

Memoria e archiviazione

Opzioni memoria: 288^*
Memoria video: 288 GB^*
Tipo memoria video: HBM3e^*
Bus di memoria: 8.192 bit^*
Banda di memoria nominale: 8.190,00 GB/s^*

Specifiche di potenza

Potenza termica di progetto: 1.400 W^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 22 campi

Architettura GPU — AMD Instinct MI355X — 288 GB HBM3E: CDNA 4^*
Picco teorico: BF16 tensoriale denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 2.516,6^* TFLOPS
Picco teorico: FP16 tensoriale denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 2.516,6^* TFLOPS
Picco teorico: FP32 senza unità tensoriali denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 157,3^* TFLOPS
Picco teorico: FP4 tensoriale denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 10.066,3^* TFLOPS
Picco teorico: FP64 senza unità tensoriali denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 78,6^* TFLOPS
Picco teorico: FP64 tensoriale denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 78,6^* TFLOPS
Picco teorico: FP6 tensoriale denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 10.066,3^* TFLOPS
Picco teorico: FP8 tensoriale denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 5.033,2^* TFLOPS
Picco teorico: INT8 tensoriale denso per GPU — AMD Instinct MI355X — 288 GB HBM3E: 5.033,2^* TOPS
Supporto hardware nativo: TF32 tensoriale — AMD Instinct MI355X — 288 GB HBM3E: No^*
Configurazione fisica — AMD Instinct MI355X — 288 GB HBM3E: OAM^*
Banda dell’interconnessione GPU (Infinity Fabric) bidirezionale — AMD Instinct MI355X — 288 GB HBM3E: 1.075,2^* GB/s
Banda dell’interconnessione GPU per direzione — AMD Instinct MI355X — 288 GB HBM3E: 537,6^* GB/s
Numero di collegamenti Infinity Fabric — AMD Instinct MI355X — 288 GB HBM3E: 7^* links
Interfaccia PCIe dichiarata — AMD Instinct MI355X — 288 GB HBM3E: PCIe Gen 5 x16^*
Potenza massima della scheda — AMD Instinct MI355X — 288 GB HBM3E: 1.400^* W
Banda massima della memoria per GPU — AMD Instinct MI355X — 288 GB HBM3E: 8.000^* GB/s
Ampiezza dell’interfaccia di memoria per GPU — AMD Instinct MI355X — 288 GB HBM3E: 8.192^* bit
Capacità di memoria per GPU — AMD Instinct MI355X — 288 GB HBM3E: 288^* GB
Tecnologia della memoria — AMD Instinct MI355X — 288 GB HBM3E: HBM3E^*
Modello GPU — AMD Instinct MI355X — 288 GB HBM3E: AMD Instinct MI355X^*

Specifiche 2 · 33 campi

proc transistors

185,000 million^*

cores

16.384^*

base clock

1.000^*

boost clock

2.400^*

memory clock

2.000^*

ram

288^*

name

AMD Radeon Instinct MI355X^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama2-70b-99 (mxfp4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama3.1-405b (mxfp4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama2-70b-99.9 (mxfp4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

ram type

HBM3e^*

bus width

8.192^*

bus interface

PCIe 5.0 x16^*

ram bandwidth

8.19 TB/s^*

fp16 performance

629,1^*

fp32 performance

78,64^*

fp64 performance

78,64^*

score Risultato benchmark grafico

10.128,875^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

score Risultato benchmark grafico

10.128,875^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

score Risultato benchmark grafico

252,38^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

tdp

1.400^* W

suggested psu

1.800^* W

slot width

OAM Module^*

is retail board

No^*

gpi value

93,52^*

unit Risultato benchmark grafico

tokens/s^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

unit Risultato benchmark grafico

tokens/s^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

unit Risultato benchmark grafico

tokens/s^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

vendor

amd^*

manufacturer

AMD^*

card release date

2025-06-12^*

proc foundry

TSMC^*

proc process size

3^* nm

Specifiche 3 · 31 campi

OpenCL

3.0^*

Interfaccia grafica

PCIe 5.0 x16^*

Bus di memoria

8.192^* bit

Shader processor dichiarati

16.384^*

Picco teorico FP16 dichiarato

78,64^* TFLOPS

Ambito e condizioni

Densità del calcolo: Non specificata^*

Picco teorico FP32 dichiarato

78,64^* TFLOPS

Ambito e condizioni

Densità del calcolo: Non specificata^*

Picco teorico FP64 dichiarato

39,32^* TFLOPS

Ambito e condizioni

Densità del calcolo: Non specificata^*

Configurazione cache L1 dichiarata

32 KB (per CU)^*

Cache L2 GPU dichiarata

32 MB^*

Uscite video dichiarate

No outputs^*

Fill rate teorico dei pixel

0 MPixel/s^*

Connettori di alimentazione esterni

None^*

Area del chip dichiarata

2380 mm²^*

Fonderia del chip

TSMC^*

Nodo produttivo dichiarato

3 nm^*

Transistor

185,000 million^*

Processore grafico

MI350^*

Memoria video dichiarata

288^* GB

Banda di memoria nominale

8.19 TB/s^*

Tipo memoria video

HBM3e^*

Unità di rasterizzazione

0^*

Unità shader dichiarate

16.384^*

Formato scheda o modulo

OAM Module^*

Alimentatore di sistema suggerito

1800 W^*

Sparsità tensoriale 2:4

No^*

TDP GPU dichiarato

1400 W^*

Fill rate teorico delle texture

2,457.6 GTexel/s^*

Unità di texture mapping

1.024^*

Core GPU

16.384^*

Memoria video

288^* GB

Tipo memoria video

HBM3e^*

Specifiche 4 · 49 campi

Brand: AMD^*
Top BUS WIDTH: 8.192^* bit
Render Config MCM: 2^*
Graphics Processor GPU Name: Aqua Vanjaram^*
Render Config Matrix Cores: 1.024^*
Graphics Processor Architecture: CDNA 3.0^*
Graphics Processor Process Size: 5^* nm
Graphics Processor Transistors: 153,000 million^*
Graphics Processor Die Size: 1.017^* mm²
Graphics Card Release Date: 2025^*
Graphics Card Generation: Radeon Instinct (MIx)^*
Graphics Card Production: Unreleased^*
Name: Radeon Instinct MI355X^*
Graphics Card Bus Interface: PCIe 5.0 x16^*
Clock Speeds Memory Clock: 2000 MHz 8 Gbps effective^*
Memory Memory Size: 288^* GB
Memory Memory Type: HBM3e^*
Memory Memory Bus: 8.192^* bit
Memory Bandwidth: 8.19 TB/s^*
Render Config TMUs: 1.024^*
Top GRAPHICS PROCESSOR: Aqua Vanjaram^*
Render Config ROPs: 0^*
Theoretical Performance Pixel Rate: 0 MPixel/s
Theoretical Performance Texture Rate: 2,457.6 GTexel/s
Board Design Slot Width: OAM Module^*
Board Design TDP: 1.400^* W
Board Design Suggested PSU: 1.800^* W
Board Design Outputs: No outputs^*
Graphics Features OpenCL: 3^*
source file: amd2025.json^*
Graphics Processor Foundry: TSMC^*
Graphics Card Predecessor: FirePro Data Center^*
Graphics Processor Density: 150.4M / mm²^*
Top TMUS: 1.024^*
Graphics Processor Chip Package: MCM^*
Clock Speeds Base Clock: 1.000^* MHz
Clock Speeds Boost Clock: 2.400^* MHz
Top CORES: 16.384^*
Render Config Shading Units: 16.384^*
Render Config Compute Units: 256^*
Render Config L2 Cache: 16^* MB
Top MEMORY SIZE: 288^* GB
Theoretical Performance FP32 (float): 78,64^* TFLOPS
Theoretical Performance FP64 (double): 78.64 TFLOPS (1:1)
Render Config L1 Cache: 16 KB (per CU)^*
Graphics Card Announced: June 11th, 2025^*
Theoretical Performance FP16 (half): 629.1 TFLOPS (8:1)
Top MEMORY TYPE: HBM3e^*
Render Config L3 Cache: 256^* MB

* Dati provvisori