Stima delle capacità basata su più benchmark. Punti di indice, non una percentuale; gli intervalli mostrano l’incertezza.
80120
Mistral-7B-v0.1
Mistral 7B v0.1 · Intervallo 95% 95,3–109,6
Esecuzione locale
Inferenza · stima della memoria
Mistral-7B-v0.1
7,24 B parametri totali · mistral · BF16
Payload dei tensori del checkpoint pubblicato: 13,5 GiB. Include copie archiviate e buffer; è distinto dalle stime di memoria runtime riportate di seguito.
Memoria acceleratore stimata
Pesi
3,7 GiB
KV cache
0,5 GiB
Margine runtime
1,0 GiB
Un utente, modello interamente nella memoria dell’acceleratore.
Nessun sistema per IA locale a catalogo soddisfa questa stima di memoria con il margine previsto.
Per i sistemi a memoria condivisa si considera il 75% della memoria installata, lasciando il 25% al sistema operativo e ad altre allocazioni. È un’ipotesi, non una misura della memoria assegnata alla GPU. I limiti di firmware e driver possono essere inferiori e richiedere configurazione. La corrispondenza di memoria non verifica runtime, pesi quantizzati o velocità di inferenza.
Include cache KV FP16, prompt e token generati, metadati di quantizzazione e margine runtime. Le GPU suggerite riservano il 10% della VRAM. La memoria sufficiente non garantisce velocità o compatibilità software: servono pesi quantizzati e supporto del runtime. La cache usa un limite superiore prudente con attenzione completa.