geekradar
Ita
Esplora GeekRadar

Altro da esplorare

Good gear Tutti i temi Chi siamo Contattaci
GeekRadar / Il banco di confronto
CONFRONTA.
Modelli IA
alibaba

Qwen2.5-32B-Instruct

Modello IA Uscita

Finestra di contesto
32.768 tokens
Parametri totali
32,76 B
Pesi aperti
Sì

Prestazioni dei modelli

Punteggio Radar: quattro test, peso uguale. Una sintesi sperimentale di queste prove, non una misura universale di intelligenza.

Qwen2.5-32B-Instruct

Punteggio Radar

Non valutato

1/4 test principali · prove insufficienti

1 risultati di benchmark per questa configurazione

Ragionamento scientifico

GPQA Diamond · 25%

Domande scientifiche di esperti; correzione rigorosa a scelta multipla. Il caso vale il 25%.

Qwen2.5-32B-Instruct 46,1*% Intervallo 95% appross.: 41,0–51,2% · Risultato datato

Soluzione di problemi nuovi

Mystery Game Puzzles · 25%

Scelta della mossa migliore in una variante di gioco non divulgata. Una prova circoscritta di ragionamento, non di intelligenza generale.

Qwen2.5-32B-Instruct Non disponibile

Matematica avanzata

FrontierMath Tiers 1-3 · 25%

Problemi matematici privati v2 con strumenti Python. Esclusi versioni precedenti e Tier 4.

Qwen2.5-32B-Instruct Non disponibile

Risposte fattuali

SimpleQA Verified · 25%

Risposte fattuali corrette con invito a tentare, valutate da un modello. Non misura allucinazioni o astensione.

Qwen2.5-32B-Instruct Non disponibile

Le barre mostrano i risultati delle prove. I segmenti indicano intervalli approssimativi al 95% quando è disponibile l’errore standard. Budget di ragionamento diversi non implicano costi uguali. I risultati mancanti non valgono zero.

Esecuzione locale

Inferenza · stima della memoria

Qwen2.5-32B-Instruct

32,76 B parametri totali · qwen2 · BF16

Payload dei tensori del checkpoint pubblicato: 61,0 GiB. Include copie archiviate e buffer; è distinto dalle stime di memoria runtime riportate di seguito.

Memoria acceleratore stimata19,5 GiB
Pesi
16,8 GiB
KV cache
1,0 GiB
Margine runtime
1,7 GiB

Un utente, modello interamente nella memoria dell’acceleratore.

GPU con margine di memoria

Sistemi per IA locale con margine di memoria

Per i sistemi a memoria condivisa si considera il 75% della memoria installata, lasciando il 25% al sistema operativo e ad altre allocazioni. È un’ipotesi, non una misura della memoria assegnata alla GPU. I limiti di firmware e driver possono essere inferiori e richiedere configurazione. La corrispondenza di memoria non verifica runtime, pesi quantizzati o velocità di inferenza.

Include cache KV FP16, prompt e token generati, metadati di quantizzazione e margine runtime. Le GPU suggerite riservano il 10% della VRAM. La memoria sufficiente non garantisce velocità o compatibilità software: servono pesi quantizzati e supporto del runtime. La cache usa un limite superiore prudente con attenzione completa.

Capacità

Finestra di contesto
32.768 tokens
Pesi aperti
Sì
Licenza del modello
apache-2.0
Parametri totali
32,76 B
Payload dei tensori del checkpoint
61,03 GiB

Modalità di input

  • text

Modalità di output

  • text

Elaborazione e piattaforma

Architettura
qwen2

* Dati provvisori