Llama-3.2-1B

Modello IA Uscita Sep 25, 2024

Finestra di contesto: 131.072 tokens
Output massimo: 8.192 tokens
Pesi aperti: Sì

Non sono ancora disponibili benchmark associati a questa scheda.

Esecuzione locale

Inferenza · stima della memoria

Llama-3.2-1B

2,3 GiB di payload dei tensori del checkpoint · 1,24 B elementi dei tensori archiviati · BF16

I tensori archiviati possono includere buffer e copie di pesi condivisi. Il numero di parametri unici non è verificato. Le dimensioni del checkpoint non indicano la memoria necessaria per eseguire il modello.

Costo API

USD / mese

Token di input / meseToken di output / mese

Stima per token di testo standard. Esclude imposte, cache, sconti batch e costi aggiuntivi per ragionamento e modalità multimediali. Limiti e disponibilità possono variare per provider.

Llama-3.2-1B

Offerta del provider

Capacità

Finestra di contesto: 131.072 tokens
Output massimo: 8.192 tokens
Ragionamento: No
Uso di strumenti: No
Pesi aperti: Sì
Dati di addestramento fino a: 2023-12
Licenza del modello: Llama 3.2 Community License
Payload dei tensori del checkpoint: 2,30 GiB

Modalità di input

text

Modalità di output

text