falcon-mamba-7b

Modello IA

Pesi aperti: Sì

Non sono ancora disponibili benchmark associati a questa scheda.

Esecuzione locale

Inferenza · stima della memoria

falcon-mamba-7b

13,5 GiB di payload dei tensori del checkpoint · 7,27 B elementi dei tensori archiviati · BF16

I tensori archiviati possono includere buffer e copie di pesi condivisi. Il numero di parametri unici non è verificato. Le dimensioni del checkpoint non indicano la memoria necessaria per eseguire il modello.

Capacità

Pesi aperti: Sì
Licenza del modello: other
Payload dei tensori del checkpoint: 13,55 GiB

Modalità di input

text

Modalità di output

text

Elaborazione e piattaforma

Architettura: falcon_mamba

Connettività e software

Connettività e funzioni

Recurrent Mamba model without a fixed attention context window; usable sequence length still depends on runtime resources.