Llama-3.1-405B

Modello IA Uscita Jul 23, 2024

Pesi aperti: Sì

Capacità e preferenze

Capacità generale · ECI

Stima delle capacità basata su più benchmark. Punti di indice, non una percentuale; gli intervalli mostrano l’incertezza.

Llama-3.1-405B 127,9^* Llama 3.1-405B · Intervallo 95% 125,0–130,5

Esecuzione locale

Inferenza · stima della memoria

Llama-3.1-405B

756,0 GiB di payload dei tensori del checkpoint · 405,85 B elementi dei tensori archiviati · BF16

I tensori archiviati possono includere buffer e copie di pesi condivisi. Il numero di parametri unici non è verificato. Le dimensioni del checkpoint non indicano la memoria necessaria per eseguire il modello.

Capacità

Pesi aperti: Sì
Licenza del modello: llama3.1
Payload dei tensori del checkpoint: 755,96 GiB

Modalità di input

text

Modalità di output

text

* Dati provvisori