Non sono ancora disponibili benchmark associati a questa scheda.
Esecuzione locale
Inferenza · stima della memoria
Baichuan-M3-235B
235,09 B parametri totali · qwen3_moe · BF16
Payload dei tensori del checkpoint pubblicato: 437,9 GiB. Include copie archiviate e buffer; è distinto dalle stime di memoria runtime riportate di seguito.
Memoria acceleratore stimata
Pesi
120,4 GiB
KV cache
0,7 GiB
Margine runtime
12,0 GiB
Un utente, modello interamente nella memoria dell’acceleratore.
Nessuna GPU in questa selezione ha memoria sufficiente con margine. Offloading e inferenza multi-GPU richiedono una valutazione distinta.
Sistemi per IA locale con margine di memoria
Nessun sistema per IA locale a catalogo soddisfa questa stima di memoria con il margine previsto.
Per i sistemi a memoria condivisa si considera il 75% della memoria installata, lasciando il 25% al sistema operativo e ad altre allocazioni. È un’ipotesi, non una misura della memoria assegnata alla GPU. I limiti di firmware e driver possono essere inferiori e richiedere configurazione. La corrispondenza di memoria non verifica runtime, pesi quantizzati o velocità di inferenza.
Include cache KV FP16, prompt e token generati, metadati di quantizzazione e margine runtime. Le GPU suggerite riservano il 10% della VRAM. La memoria sufficiente non garantisce velocità o compatibilità software: servono pesi quantizzati e supporto del runtime.