Nous Research
Nous Research è un laboratorio di intelligenza artificiale guidato dalla comunità noto per la messa a punto di modelli aperti popolari in assistenti altamente capaci e meno limitati e per la promozione della formazione decentralizzata.
Panoramica
Mostra come un piccolo team più una comunità open-source possano competere sulla qualità del modello senza possedere un'infrastruttura enorme.
Immersione profonda
Nous Research è salito alla ribalta prendendo modelli a base aperta, in particolare la famiglia Llama e Mistral di Meta, e perfezionandoli nelle serie Hermes e Capybara ampiamente utilizzate. I loro modelli OpenHermes e Nous Hermes sono diventati alcuni dei perfezionamenti più scaricati su Hugging Face, apprezzati per la forte capacità di seguire le istruzioni e l'enfasi sulla manovrabilità piuttosto che sul forte comportamento di rifiuto. Oltre alla messa a punto, Nous ha affrontato un problema difficile: la formazione distribuita. La loro ricerca DisTrO e l'ottimizzatore DeMo mirano a ridurre la larghezza di banda di comunicazione necessaria tra le GPU, mentre la rete Psyche esplora l'addestramento di modelli di grandi dimensioni su hardware connesso a Internet geograficamente sparsi. Hanno anche sperimentato modelli basati sull’uso di strumenti e sul ragionamento, posizionandosi alla frontiera dell’intelligenza artificiale aperta e decentralizzata.
Approfondimento tecnico
La maggior parte dei modelli di Nous non vengono formati da zero; applicano una messa a punto supervisionata e un'ottimizzazione delle preferenze (come DPO) oltre a pesi di base aperti utilizzando set di dati sintetici e umani attentamente curati. Il loro lavoro di addestramento distribuito attacca il collo di bottiglia della larghezza di banda: normalmente le GPU devono scambiarsi enormi aggiornamenti gradiente ad ogni passaggio. DisTrO/DeMo comprimono e disaccoppiano questi aggiornamenti in modo che i nodi possano allenarsi insieme su normali collegamenti Internet anziché richiedere un'interconnessione di data center strettamente accoppiata.
Impatto strategico
Strategia del fornitore
Le roadmap dei fornitori influenzano le funzionalità che il tuo team può sviluppare successivamente.
Costo e budget
I termini commerciali e le opzioni di implementazione influiscono sui costi e sui rischi a lungo termine.
Rischio e sicurezza
Gli incentivi aziendali modellano le impostazioni predefinite dei prodotti, la postura di sicurezza e l’apertura.
Il futuro della ricerca Nous
Nous scommette che il futuro dell’intelligenza artificiale aperta sarà decentralizzato, dove il calcolo sarà condiviso tra molti contributori indipendenti anziché concentrato in pochi cluster su vasta scala. Se i loro metodi di formazione a banda ridotta fossero scalabili, le comunità potrebbero formare collettivamente modelli di frontiera. Aspettatevi il rilascio continuo di validi assistenti aperti, investimenti più profondi nella rete distribuita di Psiche e modelli orientati al ragionamento. Il loro lavoro potrebbe ridurre significativamente la barriera alla formazione di grandi modelli al di fuori della grande tecnologia.
Implementazione nel mondo reale
Gli sviluppatori eseguono i modelli Nous Hermes e OpenHermes localmente per assistenti di chat privati e gestibili senza costi API.
I ricercatori citano i metodi DisTrO e DeMo di Nous quando esplorano l'addestramento del modello distribuito efficiente in termini di larghezza di banda.
Gli hobbisti e le piccole aziende mettono a punto i set di dati rilasciati da Nous per creare assistenti specifici per dominio.
La rete Psyche viene utilizzata per sperimentare modelli di formazione su GPU volontarie distribuite geograficamente.
Rischi e guardrail
Gli annunci di lancio potrebbero superare la stabilità nei flussi di lavoro di produzione reali.
I prezzi delle API o i cambiamenti politici possono infrangere le ipotesi da un giorno all’altro.
La dipendenza da un unico fornitore aumenta i costi di lock-in e di migrazione.
Tabella di marcia per l'implementazione
Valuta i fornitori utilizzando le tue attività e i tuoi set di dati.
Esamina la privacy, la sicurezza e i termini legali prima dell'integrazione.
Mantenere un piano di riserva tra modelli o fornitori.
Monitora le note di rilascio in modo che le modifiche alla roadmap non sorprendano i team.
Continua a esplorare
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Nous Research quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Prossima guida
Tongyi Lab e Qwen Research
Domande frequenti
Cos'è Nous Research?
Nous Research è un laboratorio di intelligenza artificiale guidato dalla comunità noto per la messa a punto di modelli aperti popolari in assistenti altamente capaci e meno limitati e per la promozione della formazione decentralizzata. Mostra come un piccolo team e una comunità open source possono competere sulla qualità del modello senza possedere un’enorme infrastruttura.
Per cosa è meglio conosciuta Nous Research nella sua prima ascesa alla ribalta?
Nous ha ottenuto il riconoscimento perfezionando modelli aperti come Llama e Mistral nella popolare famiglia Hermes.
Quali modelli base Nous ha messo a punto più comunemente?
Le serie Hermes e Capybara di Nous sono costruite su modelli a base aperta, in particolare Llama e Mistral.
Quale problema affrontano i progetti DisTrO e DeMo di Nous?
DisTrO e l'ottimizzatore DeMo mirano a ridurre la larghezza di banda inter-GPU normalmente richiesta, consentendo l'addestramento su normali collegamenti Internet.
Cos'è la rete Psiche?
Psyche è la rete di formazione decentralizzata di Nous che esplora come mettere in comune GPU sparse per addestrare modelli di grandi dimensioni.
Quale tecnica utilizza tipicamente Nous per allineare i suoi modelli perfezionati?
Nous applica la messa a punto supervisionata e l'ottimizzazione delle preferenze oltre ai pesi di base aperti utilizzando set di dati selezionati.