Non sono ancora disponibili benchmark associati a questa scheda.
Esecuzione locale
Inferenza · stima della memoria
Hermes 3 405B Instruct
405,85 B parametri totali · llama · BF16
Payload dei tensori del checkpoint pubblicato: 756,0 GiB. Include copie archiviate e buffer; è distinto dalle stime di memoria runtime riportate di seguito.
Memoria acceleratore stimata
Pesi
207,9 GiB
KV cache
2,0 GiB
Margine runtime
20,8 GiB
Un utente, modello interamente nella memoria dell’acceleratore.
GPU con margine di memoria
Nessuna GPU in questa selezione ha memoria sufficiente con margine. Offloading e inferenza multi-GPU richiedono una valutazione distinta.
Sistemi per IA locale con margine di memoria
Nessun sistema per IA locale a catalogo soddisfa questa stima di memoria con il margine previsto.
Per i sistemi a memoria condivisa si considera il 75% della memoria installata, lasciando il 25% al sistema operativo e ad altre allocazioni. È un’ipotesi, non una misura della memoria assegnata alla GPU. I limiti di firmware e driver possono essere inferiori e richiedere configurazione. La corrispondenza di memoria non verifica runtime, pesi quantizzati o velocità di inferenza.
Include cache KV FP16, prompt e token generati, metadati di quantizzazione e margine runtime. Le GPU suggerite riservano il 10% della VRAM. La memoria sufficiente non garantisce velocità o compatibilità software: servono pesi quantizzati e supporto del runtime.
Costo API
USD / mese
Stima per token di testo standard. Esclude imposte, cache, sconti batch e costi aggiuntivi per ragionamento e modalità multimediali. Limiti e disponibilità possono variare per provider.