GeekRadar / Il banco di confronto

CONFRONTA.

GPU

INTEL

Intel Data Center GPU Max NEXT

Processore grafico

Memoria video: 128 GB^*
Bus di memoria: 8.192 bit^*
Banda di memoria nominale: 3.210 GB/s^*

Risultati dei benchmark

LLM Inference: llama.cpp Bench: llama-2-7b-Q4_0 (Q4_0) · versione non riportata · score8,21^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama2-70b-99 (UINT4) · versione non riportata · score527,51^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama2-70b-99.9 (UINT4) · versione non riportata · score527,51^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama3.1-8b (UINT4) · versione non riportata · score1.337,11^* tokens/sPiattaforma non riportata Confronta i risultati
LLM Inference: MLPerf: llama3.1-8b-edge (UINT4) · versione non riportata · score1.652,47^* tokens/sPiattaforma non riportata Confronta i risultati

Elaborazione e piattaforma

Architettura: Generation 12.5^*
Nodo produttivo: 7 nm^*
Core GPU: 20.480^*
Interfaccia grafica: PCIe 5.0 x16^*
Area del chip dichiarata: 1.280 mm²^*
Transistor: 100.000 million^*
Cache L2 GPU: 408 MB^*
Processore grafico: Rialto^*
Unità di texture mapping: 1.280^*
Unità di rasterizzazione: 0^*
Core ray tracing: 160^*
Fonderia del chip: Intel^*
Formato scheda o modulo: OAM Module^*
TDP GPU dichiarato: 800 W^*
Alimentatore di sistema suggerito: 1.200 W^*
Connettori di alimentazione esterni: 8-pin EPS^*
DirectX / feature level: 12 (12_1)^*
OpenGL: 4.6^*
OpenCL: 3.0^*
Shader model: 6.6^*

Memoria e archiviazione

Opzioni memoria: 128^*
Memoria video: 128 GB^*
Tipo memoria video: HBM2e^*
Bus di memoria: 8.192 bit^*
Banda di memoria nominale: 3.210 GB/s^*

Specifiche di potenza

Potenza termica di progetto: 800 W^*

Configurazione di sistema

Specifiche dettagliate

Specifiche 1 · 42 campi

proc transistors

100,000 million^*

proc die size

1.280^* mm²

cores

20.480^*

rt cores

160^*

base clock

900^*

boost clock

1.600^*

memory clock

1.565^*

ram

128^*

name

Intel Data Center GPU Max NEXT^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama3.1-8b (UINT4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama2-70b-99 (UINT4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: llama.cpp Bench: llama-2-7b-Q4_0 (Q4_0)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama2-70b-99.9 (UINT4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

test name Risultato benchmark grafico

LLM Inference: MLPerf: llama3.1-8b-edge (UINT4)^*

Ambito e condizioni

benchmark_context

suite: Per-row third-party test name^*
test_configuration_verified: No^*
comparable: No^*

ram type

HBM2e^*

bus width

8.192^*

bus interface

PCIe 5.0 x16^*

ram bandwidth

3.21 TB/s^*

fp16 performance

65,54^*

fp32 performance

65,54^*

fp64 performance

65,54^*