Bedrijven GIDS

Nous Onderzoek

Nous Research is een door de gemeenschap aangestuurd AI-lab dat bekend staat om het verfijnen van populaire open modellen tot zeer capabele, minder beperkte assistenten en om het stimuleren van gedecentraliseerde training.

2 min readLaatst bijgewerkt

Overzicht

It shows how a small team plus an open-source community can compete on model quality without owning massive infrastructure.

Diepe duik

Nous Research kreeg bekendheid door open-basismodellen te nemen, vooral de Llama-familie en Mistral van Meta, en deze te verfijnen tot de veelgebruikte Hermes- en Capybara-series. Hun OpenHermes- en Nous Hermes-modellen werden enkele van de meest gedownloade verfijningen op Hugging Face, gewaardeerd vanwege het sterke volgen van instructies en de nadruk op bestuurbaarheid in plaats van zwaar weigeringsgedrag. Naast het verfijnen pakte Nous een lastig probleem aan: gedistribueerde training. Hun DisTrO-onderzoek en de DeMo-optimizer zijn bedoeld om de benodigde communicatiebandbreedte tussen GPU's te verkleinen, en het Psyche-netwerk onderzoekt het trainen van grote modellen over geografisch verspreide, op internet aangesloten hardware. Ze hebben ook geëxperimenteerd met modellen die gereedschap gebruiken en redeneren, en positioneren zichzelf aan de grens van open, gedecentraliseerde AI.

Technisch inzicht

De meeste modellen van Nous zijn niet helemaal opnieuw getraind; ze passen gecontroleerde verfijning en voorkeursoptimalisatie toe (zoals DPO) bovenop open basisgewichten, met behulp van zorgvuldig samengestelde synthetische en menselijke datasets. Hun gedistribueerde trainingswerk pakt het bandbreedteknelpunt aan: normaal gesproken moeten GPU's bij elke stap enorme gradiëntupdates uitwisselen. DisTrO/DeMo comprimeren en ontkoppelen deze updates, zodat knooppunten samen kunnen trainen via gewone internetverbindingen in plaats van dat er een nauw gekoppelde datacenterverbinding nodig is.

Strategische impact

Vendor strategy

Roadmaps van leveranciers beïnvloeden welke functies uw team vervolgens kan bouwen.

Cost and budget

Commerciële voorwaarden en implementatieopties zijn van invloed op de kosten en risico's op de lange termijn.

Risk and safety

Bedrijfsprikkels bepalen productgebreken, veiligheidshouding en openheid.

De toekomst van Nous-onderzoek

Nous gokt erop dat de toekomst van open AI gedecentraliseerd zal zijn, waarbij rekenkracht wordt gebundeld over vele onafhankelijke bijdragers in plaats van geconcentreerd in een paar hyperscale clusters. Als hun trainingsmethoden met lage bandbreedte opschalen, zouden gemeenschappen collectief modellen van grensklassen kunnen trainen. Verwacht voortdurende releases van bekwame open assistenten, diepere investeringen in het gedistribueerde Psyche-netwerk en op redeneren gerichte modellen. Hun werk zou de drempel voor het trainen van grote modellen buiten de big tech op betekenisvolle wijze kunnen verlagen.

Implementatie in de echte wereld

Ontwikkelaars voeren Nous Hermes- en OpenHermes-modellen lokaal uit voor privé, bestuurbare chatassistenten zonder API-kosten.

Onderzoekers citeren de DisTrO- en DeMo-methoden van Nous bij het verkennen van bandbreedte-efficiënte gedistribueerde modeltraining.

Hobbyisten en kleine bedrijven verfijnen de vrijgegeven datasets van Nous om domeinspecifieke assistenten te bouwen.

Het Psyche-netwerk wordt gebruikt om te experimenteren met trainingsmodellen voor geografisch verspreide vrijwillige GPU's.

Risico's en vangrails

Lanceringsaankondigingen kunnen de stabiliteit in echte productieworkflows overtreffen.

API-prijzen of beleidswijzigingen kunnen van de ene op de andere dag de aannames doorbreken.

De afhankelijkheid van één leverancier verhoogt de lock-in- en migratiekosten.

Implementatie routekaart

1

Evalueer providers met behulp van uw eigen taken en datasets.

2

Controleer de privacy-, beveiligings- en juridische voorwaarden vóór de integratie.

3

Onderhoud een noodplan voor alle modellen of leveranciers.

4

Houd de release-opmerkingen in de gaten, zodat wijzigingen in de routekaart teams niet verrassen.

Blijf verkennen

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Nous Research quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Start quiz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Next guide

Tongyi Lab en Qwen Research

Frequently asked questions

What is Nous Research?

Nous Research is een door de gemeenschap aangestuurd AI-lab dat bekend staat om het verfijnen van populaire open modellen tot zeer capabele, minder beperkte assistenten en om het stimuleren van gedecentraliseerde training. Het laat zien hoe een klein team plus een open-sourcegemeenschap kunnen concurreren op modelkwaliteit zonder een enorme infrastructuur te bezitten.

Waar is Nous Research het meest bekend om in zijn vroege opkomst op de voorgrond?

Nous kreeg bekendheid door open modellen als Llama en Mistral te verfijnen tot de populaire Hermes-familie.

Welke basismodellen heeft Nous het meest verfijnd?

De Hermes- en Capybara-series van Nous zijn gebouwd op open basismodellen, vooral Llama en Mistral.

Welk probleem pakken de DisTrO- en DeMo-projecten van Nous aan?

DisTrO en de DeMo-optimizer zijn bedoeld om de normaal benodigde inter-GPU-bandbreedte te verminderen, waardoor training via gewone internetverbindingen mogelijk wordt.

Wat is het Psyche-netwerk?

Psyche is het gedecentraliseerde trainingsnetwerk van Nous dat onderzoekt hoe verspreide GPU's kunnen worden samengevoegd om grote modellen te trainen.

Welke techniek gebruikt Nous doorgaans om zijn verfijnde modellen op elkaar af te stemmen?

Nous past gecontroleerde verfijning en voorkeursoptimalisatie toe bovenop open basisgewichten met behulp van samengestelde datasets.