Un grande processore scambia riquadri luminosi simili a documenti con un processore locale più compatto.
Intelligenza artificiale / La storia

I nuovi Nemotron di Nvidia dividono la corsa agli agenti fra server e PC locali

Super VL e Bolt puntano a installazioni di dimensioni diverse: memoria necessaria e affidabilità dei compiti diventano centrali nel confronto.

GeekRadar2 min di lettura

Il 15 ottobre Nvidia ha pubblicato Nemotron 3.5 Super VL e Nemotron 3.5 Bolt 74B-A9B, presentando una famiglia che comprende agenti eseguiti su server e in locale. Un modello più piccolo, Bolt E4B, è previsto per il 23 ottobre. L'annuncio di Nvidia descrive la nuova gamma.

Super VL ha 120 miliardi di parametri e si rivolge ad attività che coinvolgono testo, immagini e documenti strutturati. Nvidia afferma che Bolt 74B-A9B usa una quantizzazione nativa a due bit per rientrare in 24 GB di memoria. L'azienda rende disponibili pesi, dataset e procedure di addestramento. I confronti di velocità e accuratezza sono dichiarazioni del produttore, non risultati di benchmark di GeekRadar.

Dove eseguire il modello diventa parte della scelta

L'annuncio rende la scelta pratica più interessante di una singola posizione in classifica. Un agente che legge un documento, seleziona uno strumento e controlla un risultato deve essere valutato come un flusso di lavoro completo. L'occupazione di memoria determina dove può funzionare; il completamento corretto dell'attività determina se valga la pena usarlo.

Per un'installazione locale, occorre considerare lo spazio lasciato alle altre applicazioni e il costo del mantenimento di un contesto utile. Su un server condiviso, conta l'effetto delle richieste concorrenti sulla reattività. Nessuna delle due risposte deriva direttamente dal numero di parametri.

L'accesso consente un esame indipendente

La disponibilità dei materiali del modello può rendere più facile esaminare, adattare e riprodurre un sistema. Il passo utile successivo è verificare quanto chiaramente un'attività possa essere ripetuta con impostazioni documentate.

Un confronto convincente dovrebbe identificare versione del modello, hardware, permessi degli strumenti e criteri di successo. Dovrebbe mostrare anche i tentativi falliti. Altrimenti due dimostrazioni apparentemente simili potrebbero comprendere livelli di assistenza molto diversi.

La nostra retrospettiva su DeepSeek-R1 esaminava il valore di un lavoro di addestramento verificabile. La domanda si applica anche qui: che cosa può controllare in modo indipendente un altro gruppo?

Le prossime prove utili

La sezione Intelligenza artificiale e gli articoli sull'IA sul dispositivo seguono questi sviluppi. L'approfondimento utile riguarderà attività completate su sistemi rappresentativi. Nel frattempo, questa pubblicazione offre nuove possibilità di installazione e affermazioni specifiche da verificare, senza dare una risposta universale su quale modello per agenti sia il migliore.