Non sono ancora disponibili benchmark associati a questa scheda.
Esecuzione locale
Inferenza · stima della memoria
Llama-3.1-Tulu-3-405B
405,85 B parametri totali · llama · BF16
Payload dei tensori del checkpoint pubblicato: 756,0 GiB. Include copie archiviate e buffer; è distinto dalle stime di memoria runtime riportate di seguito.
Memoria acceleratore stimata
Pesi
207,9 GiB
KV cache
2,0 GiB
Margine runtime
20,8 GiB
Un utente, modello interamente nella memoria dell’acceleratore.
GPU con margine di memoria
Nessuna GPU in questa selezione ha memoria sufficiente con margine. Offloading e inferenza multi-GPU richiedono una valutazione distinta.
Nessun sistema per IA locale a catalogo soddisfa questa stima di memoria con il margine previsto.
Per i sistemi a memoria condivisa si considera il 75% della memoria installata, lasciando il 25% al sistema operativo e ad altre allocazioni. È un’ipotesi, non una misura della memoria assegnata alla GPU. I limiti di firmware e driver possono essere inferiori e richiedere configurazione. La corrispondenza di memoria non verifica runtime, pesi quantizzati o velocità di inferenza.
Include cache KV FP16, prompt e token generati, metadati di quantizzazione e margine runtime. Le GPU suggerite riservano il 10% della VRAM. La memoria sufficiente non garantisce velocità o compatibilità software: servono pesi quantizzati e supporto del runtime.