geekradar
Ita
Esplora GeekRadar

Altro da esplorare

Good gear Tutti i temi Chi siamo Contattaci
GeekRadar / Il banco di confronto
CONFRONTA.
Modelli IA
alibaba

Qwen2.5-7B-Instruct

Modello IA Uscita

Finestra di contesto
32.768 tokens
Output massimo
8.192 tokens
Parametri totali
7,62 B
Pesi aperti
Sì

Prestazioni dei modelli

Punteggio Radar: quattro test, peso uguale. Una sintesi sperimentale di queste prove, non una misura universale di intelligenza.

Qwen2.5-7B-Instruct

Punteggio Radar

Non valutato

1/4 test principali · prove insufficienti

2 risultati di benchmark per questa configurazione

Ragionamento scientifico

GPQA Diamond · 25%

Domande scientifiche di esperti; correzione rigorosa a scelta multipla. Il caso vale il 25%.

Qwen2.5-7B-Instruct 35,5*% Intervallo 95% appross.: 31,0–40,0%

Soluzione di problemi nuovi

Mystery Game Puzzles · 25%

Scelta della mossa migliore in una variante di gioco non divulgata. Una prova circoscritta di ragionamento, non di intelligenza generale.

Qwen2.5-7B-Instruct Non disponibile

Matematica avanzata

FrontierMath Tiers 1-3 · 25%

Problemi matematici privati v2 con strumenti Python. Esclusi versioni precedenti e Tier 4.

Qwen2.5-7B-Instruct Non disponibile

Risposte fattuali

SimpleQA Verified · 25%

Risposte fattuali corrette con invito a tentare, valutate da un modello. Non misura allucinazioni o astensione.

Qwen2.5-7B-Instruct Non disponibile

Matematica da competizione

OTIS Mock AIME 2024-2025 · Risultato separato

Problemi da competizione: risposte estratte da un modello e confrontate con la soluzione esatta. Escluse le procedure di valutazione precedenti.

Qwen2.5-7B-Instruct 2,5*% Intervallo 95% appross.: 0,7–4,3%

Le barre mostrano i risultati delle prove. I segmenti indicano intervalli approssimativi al 95% quando è disponibile l’errore standard. Budget di ragionamento diversi non implicano costi uguali. I risultati mancanti non valgono zero.

Esecuzione locale

Inferenza · stima della memoria

Qwen2.5-7B-Instruct

7,62 B parametri totali · qwen2 · BF16

Payload dei tensori del checkpoint pubblicato: 14,2 GiB. Include copie archiviate e buffer; è distinto dalle stime di memoria runtime riportate di seguito.

Memoria acceleratore stimata5,1 GiB
Pesi
3,9 GiB
KV cache
0,2 GiB
Margine runtime
1,0 GiB

Un utente, modello interamente nella memoria dell’acceleratore.

GPU con margine di memoria

Sistemi per IA locale con margine di memoria

Per i sistemi a memoria condivisa si considera il 75% della memoria installata, lasciando il 25% al sistema operativo e ad altre allocazioni. È un’ipotesi, non una misura della memoria assegnata alla GPU. I limiti di firmware e driver possono essere inferiori e richiedere configurazione. La corrispondenza di memoria non verifica runtime, pesi quantizzati o velocità di inferenza.

Include cache KV FP16, prompt e token generati, metadati di quantizzazione e margine runtime. Le GPU suggerite riservano il 10% della VRAM. La memoria sufficiente non garantisce velocità o compatibilità software: servono pesi quantizzati e supporto del runtime. La cache usa un limite superiore prudente con attenzione completa.

Costo API

USD / mese

Stima per token di testo standard. Esclude imposte, cache, sconti batch e costi aggiuntivi per ragionamento e modalità multimediali. Limiti e disponibilità possono variare per provider.

Qwen2.5-7B-Instruct

Capacità

Finestra di contesto
32.768 tokens
Output massimo
8.192 tokens
Ragionamento
No
Uso di strumenti
Sì
Pesi aperti
Sì
Licenza del modello
apache-2.0
Parametri totali
7,62 B
Payload dei tensori del checkpoint
14,19 GiB

Modalità di input

  • text

Modalità di output

  • text

Elaborazione e piattaforma

Architettura
qwen2

* Dati provvisori