Llama-3.1-70B

Modello IA Uscita Jul 23, 2024

Pesi aperti: Sì

Capacità e preferenze

Capacità generale · ECI

Stima delle capacità basata su più benchmark. Punti di indice, non una percentuale; gli intervalli mostrano l’incertezza.

Llama-3.1-70B 125,9^* Llama 3.1-70B · Intervallo 95% 120,8–128,2

Esecuzione locale

Inferenza · stima della memoria

Llama-3.1-70B

131,4 GiB di payload dei tensori del checkpoint · 70,55 B elementi dei tensori archiviati · BF16

I tensori archiviati possono includere buffer e copie di pesi condivisi. Il numero di parametri unici non è verificato. Le dimensioni del checkpoint non indicano la memoria necessaria per eseguire il modello.

Capacità

Pesi aperti: Sì
Licenza del modello: llama3.1
Payload dei tensori del checkpoint: 131,42 GiB

Modalità di input

text

Modalità di output

text

* Dati provvisori