Il prossimoProssima guida
Modelli della Fondazione NVIDIA Cosmos World
Aziende
GUIDA alle aziende
Nemotron è la famiglia di modelli linguistici aperti di grandi dimensioni di Nvidia, progettata per mostrare il proprio hardware e generare dati sintetici di alta qualità per l'addestramento di altri modelli.
Ascolta questa guidaNarrato dall'IA · ~2 min
Sono importanti perché Nvidia utilizza modelli con licenza aperta per rafforzare l'intero ecosistema AI che acquista le sue GPU.
Nemotron è la linea di modelli linguistici apertamente disponibili di Nvidia, costruiti e ottimizzati per funzionare in modo efficiente sulle GPU Nvidia. La versione più notevole, Llama 3.1 Nemotron 70B, ha preso la base Llama di Meta e ha applicato le tecniche di allineamento avanzate di Nvidia, superando brevemente diversi parametri di riferimento delle preferenze umane. Al di là della qualità della chat, una missione fondamentale di Nemotron è la generazione di dati sintetici: la famiglia Nemotron-4 340B è stata costruita esplicitamente in modo che gli sviluppatori potessero creare set di dati di addestramento di grandi dimensioni e di facile licenza per mettere a punto i propri modelli. Nvidia fornisce anche modelli di ricompensa specializzati che valutano la qualità della risposta. Nemotron si abbina al framework NeMo di Nvidia e ai microservizi NIM, semplificandone l'implementazione. La strategia è guidata dall’ecosistema: modelli aperti migliori significano più applicazioni AI, il che significa una maggiore domanda di chip Nvidia.
Una startup utilizza Nemotron-4 340B per generare dati di istruzioni sintetiche, quindi mette a punto un modello più piccolo senza concedere in licenza set di dati del mondo reale.
Gli sviluppatori distribuiscono Llama 3.1 Nemotron 70B tramite un microservizio Nvidia NIM per alimentare un assistente chat interno di alta qualità.
Un team ML utilizza il modello di ricompensa Nemotron per classificare e filtrare automaticamente le risposte dei candidati durante la creazione di un set di dati personalizzato.
Un gruppo di ricerca confronta Nemotron con altri modelli aperti su compiti di preferenza umana per valutare la qualità dell'allineamento.
Nvidia sta espandendo Nemotron verso varianti incentrate sul ragionamento e multimodali, oltre a modelli più piccoli ottimizzati per agenti e dispositivi edge. Aspettatevi una continua enfasi sulle pipeline di dati sintetici e sui modelli di ricompensa come carburante per la più ampia comunità di modelli aperti. Poiché Nemotron esiste in parte per promuovere l'adozione di GPU e software, Nvidia probabilmente continuerà a rilasciare pesi e strumenti aperti competitivi piuttosto che bloccare i modelli dietro un'API a pagamento.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Nemotron è la famiglia di modelli linguistici aperti di grandi dimensioni di Nvidia, progettata per mostrare il proprio hardware e generare dati sintetici di alta qualità per l'addestramento di altri modelli. Sono importanti perché Nvidia utilizza modelli con licenza aperta per rafforzare l'intero ecosistema AI che acquista le sue GPU.
Nemotron 70B applica le tecniche di allineamento di Nvidia sul modello base Llama 3.1 di Meta.
I modelli di ricompensa assegnano punteggi di qualità ad attributi come l'utilità, utilizzati in RLHF e per filtrare i dati sintetici.
The guide describes Nemotron as openly available and paired with NeMo/NIM workflows that developers can use to build and deploy applications.
Il framework NeMo di Nvidia e i microservizi NIM semplificano la messa a punto e l'implementazione dei modelli Nemotron.
The reward model evaluates generated responses and helps filter synthetic training data.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Modelli della Fondazione NVIDIA Cosmos World
Aziende