Non sono ancora disponibili benchmark associati a questa scheda.
Esecuzione locale
Inferenza · stima della memoria
DialoGPT-small
0,12 B parametri totali · gpt2 · F16
Payload dei tensori del checkpoint pubblicato: 0,3 GiB. Include copie archiviate e buffer; è distinto dalle stime di memoria runtime riportate di seguito.
Stime dei soli pesi: 16-bit: 0,2 GiB; 8-bit: 0,1 GiB; 4-bit: 0,1 GiB; La struttura della cache non è disponibile. Non sono requisiti GPU completi.