PRŮVODCE společnostmi

Nous Research

Nous Research je komunitou řízená laboratoř umělé inteligence známá tím, že dolaďuje oblíbené otevřené modely na vysoce schopné asistenty s menším omezením a prosazuje decentralizované školení.

2 minuty čteníNaposledy aktualizováno

Přehled

It shows how a small team plus an open-source community can compete on model quality without owning massive infrastructure.

Hluboký ponor

Společnost Nous Research se prosadila tím, že vzala otevřené základní modely, zejména rodinu Meta Llama a Mistral, a doladila je do široce používaných sérií Hermes a Capybara. Jejich modely OpenHermes a Nous Hermes se staly některými z nejstahovanějších jemných melodií na Hugging Face, ceněné pro silné dodržování pokynů a důraz spíše na ovladatelnost než na těžké odmítání. Kromě jemného doladění se Nous vypořádal s těžkým problémem: distribuovaným školením. Jejich výzkum DisTrO a optimalizátor DeMo mají za cíl snížit potřebnou komunikační šířku pásma mezi GPU a síť Psyche zkoumá trénování velkých modelů na geograficky rozptýleném hardwaru připojeném k internetu. Experimentovali také s modely využívajícími nástroje a modely zaměřenými na uvažování, čímž se umístili na hranici otevřené, decentralizované umělé inteligence.

Technický přehled

Většina Nousových modelů není trénována od nuly; aplikují řízené jemné ladění a optimalizaci preferencí (jako DPO) nad otevřenými základními váhami pomocí pečlivě vybraných syntetických a lidských datových sad. Jejich práce na distribuovaném školení útočí na problémové místo šířky pásma: GPU si normálně musí vyměňovat obrovské aktualizace gradientu na každém kroku. DisTrO/DeMo komprimuje a odděluje tyto aktualizace, takže uzly mohou trénovat společně přes běžná internetová spojení, aniž by vyžadovaly těsně propojené propojení datových center.

Strategický dopad

Strategie dodavatelů

Plány dodavatelů ovlivňují, jaké funkce může váš tým dále vybudovat.

Cena a rozpočet

Komerční podmínky a možnosti nasazení ovlivňují dlouhodobé náklady a rizika.

Riziko a bezpečnost

Firemní pobídky utvářejí výchozí produkty, bezpečný postoj a otevřenost.

Budoucnost výzkumu Nous

Nous sází na to, že budoucnost otevřené umělé inteligence je decentralizovaná, kde jsou výpočty sdruženy mezi mnoha nezávislými přispěvateli spíše než soustředěny do několika hyperškálových clusterů. Pokud se jejich tréninkové metody s nízkou šířkou pásma rozšíří, komunity by mohly kolektivně trénovat modely hraničních tříd. Očekávejte pokračující vydávání schopných otevřených asistentů, hlubší investice do distribuované sítě Psyche a modely orientované na uvažování. Jejich práce by mohla významně snížit bariéru pro školení velkých modelů mimo velké technologie.

Real-World Implementace

Vývojáři provozují modely Nous Hermes a OpenHermes lokálně pro soukromé, řiditelné chatovací asistenty bez nákladů na API.

Výzkumníci citují Nousovy metody DisTrO a DeMo, když zkoumají trénování distribuovaných modelů s efektivní šířkou pásma.

Hobbyři a malé společnosti dolaďují vydané datové sady Nous, aby vytvořili asistenty specifické pro doménu.

Síť Psyche se používá k experimentování s tréninkovými modely napříč geograficky distribuovanými dobrovolnými GPU.

Rizika a zábradlí

Oznámení o uvedení mohou předstihnout stabilitu v reálných výrobních pracovních postupech.

Změny cen API nebo politik mohou přes noc narušit předpoklady.

Závislost na jediném dodavateli zvyšuje náklady na uzamčení a migraci.

Plán implementace

1

Vyhodnoťte poskytovatele pomocí vlastních úkolů a datových sad.

2

Před integrací si přečtěte podmínky ochrany soukromí, zabezpečení a právní podmínky.

3

Udržujte záložní plán napříč modely nebo dodavateli.

4

Sledujte poznámky k vydání, aby změny plánu nepřekvapily týmy.

Pokračujte v objevování

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Nous Research quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Spustit kvíz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Další průvodce

Tongyi Lab a Qwen Research

Často kladené otázky

What is Nous Research?

Nous Research je komunitou řízená laboratoř umělé inteligence známá tím, že dolaďuje oblíbené otevřené modely na vysoce schopné asistenty s menším omezením a prosazuje decentralizované školení. Ukazuje, jak malý tým a komunita s otevřeným zdrojovým kódem mohou soutěžit v kvalitě modelu, aniž by vlastnili masivní infrastrukturu.

Čím je Nous Research nejznámější ve svém raném vzestupu na výsluní?

Nous získal uznání jemným doladěním otevřených modelů jako Llama a Mistral do populární rodiny Hermes.

Které základní modely má Nous nejčastěji vyladěné?

Nousovy řady Hermes a Capybara jsou postaveny na otevřených základních modelech, zejména Llama a Mistral.

Jaký problém řeší Nousovy projekty DisTrO a DeMo?

DisTrO a optimalizátor DeMo mají za cíl snížit běžně požadovanou šířku pásma mezi GPU, což umožňuje trénování přes běžné internetové odkazy.

Co je to síť Psyche?

Psyche je decentralizovaná školicí síť společnosti Nous, která zkoumá, jak sdružit rozptýlená GPU pro trénování velkých modelů.

Jakou techniku Nous obvykle používá k zarovnání svých doladěných modelů?

Nous aplikuje supervizované jemné doladění a optimalizaci preferencí nad otevřenými základními vahami pomocí kurátorských datových sad.