CONFRONTA.

NVIDIA

NVIDIA H200 SXM 141 GB

GPU^*

Memoria video

141 GB^*

Banda di memoria nominale

4.890 GB/s^*

Potenza termica di progetto

700 W^*

Core GPU

16.896^*

LLM Inference: MLPerf: llama2-70b-99 (fp8) · versione non riportata · score#1^* · 2.444,34^* tokens/sPiattaforma non riportata

Punteggio di rendering Blender non disponibile

AMD

Radeon Instinct MI325X

GPU^*

Memoria video

Valore riportato 1: 288 GB^*

Valore riportato 2: 256 GB^*

Valore riportato 3: 256 GB^*

Banda di memoria nominale

6.140 GB/s^*

Potenza termica di progetto

1.000 W^*

Core GPU

19.456^*

LLM Inference: MLPerf: llama2-70b-99 (fp8) · versione non riportata · score#2^* · 1.945,78^* tokens/sPiattaforma non riportata

Punteggio di rendering Blender non disponibile

NVIDIA

NVIDIA H100 SXM5 94 GB

GPU^*

Memoria video

94 GB^*

Banda di memoria nominale

3.360 GB/s^*

Potenza termica di progetto

700 W^*

Core GPU

16.896^*

LLM Inference: MLPerf: llama2-70b-99 (fp8) · versione non riportata · score#3^* · 1.668,90^* tokens/sPiattaforma non riportata

Punteggio di rendering Blender non disponibile

NVIDIA

NVIDIA H100 PCIe 80 GB

GPU^*

Memoria video

80 GB^*

Banda di memoria nominale

2.040 GB/s^*

Potenza termica di progetto

350 W^*

Core GPU

14.592^*

LLM Inference: MLPerf: llama2-70b-99 (fp8) · versione non riportata · score#4^* · 1.222,48^* tokens/sPiattaforma non riportata

Punteggio di rendering Blender non disponibile

AMD

Radeon Instinct MI300X

GPU^*

Memoria video

192 GB^*

Banda di memoria nominale

5.320 GB/s^*

Potenza termica di progetto

750 W^*

Core GPU

19.456^*

LLM Inference: MLPerf: llama2-70b-99 (fp8) · versione non riportata · score#5^* · 1.056,89^* tokens/sPiattaforma non riportata

Punteggio di rendering Blender non disponibile

NVIDIA

NVIDIA H100 SXM5 96 GB

GPU^*

Memoria video

96 GB^*

Banda di memoria nominale

3.360 GB/s^*

Potenza termica di progetto

700 W^*

Core GPU

16.896^*

LLM Inference: MLPerf: llama2-70b-99 (fp8) · versione non riportata · score#6^* · 370,58^* tokens/sPiattaforma non riportata

Punteggio di rendering Blender non disponibile