Als nächstesNächster Leitfaden
Tongyi Lab und Qwen Research
Unternehmen
Leitfaden für Unternehmen
Nous Research ist ein von der Community betriebenes KI-Labor, das dafür bekannt ist, beliebte offene Modelle in hochleistungsfähige, weniger eingeschränkte Assistenten zu verfeinern und dezentrales Training voranzutreiben.
Es zeigt, wie ein kleines Team und eine Open-Source-Community in der Modellqualität konkurrieren können, ohne über eine riesige Infrastruktur zu verfügen.
Nous Research erlangte Bekanntheit, indem es offene Basismodelle, insbesondere die Llama-Familie und Mistral von Meta, aufnahm und sie an die weit verbreiteten Hermes- und Capybara-Serien anpasste. Ihre OpenHermes- und Nous Hermes-Modelle gehörten zu den am häufigsten heruntergeladenen Feinabstimmungen auf Hugging Face und wurden für ihre starke Befolgung von Anweisungen und die Betonung der Lenkbarkeit statt starkem Verweigerungsverhalten geschätzt. Über die Feinabstimmung hinaus ging Nous ein schwieriges Problem an: verteiltes Training. Ihre DisTrO-Forschung und der DeMo-Optimierer zielen darauf ab, die zwischen GPUs benötigte Kommunikationsbandbreite zu reduzieren, und das Psyche-Netzwerk untersucht das Training großer Modelle auf geografisch verstreuter, mit dem Internet verbundener Hardware. Sie haben auch mit Werkzeug- und schlussfolgerungsorientierten Modellen experimentiert und sich damit an der Grenze der offenen, dezentralen KI positioniert.
Anbieter-Roadmaps beeinflussen, welche Funktionen Ihr Team als Nächstes entwickeln kann.
Kommerzielle Bedingungen und Bereitstellungsoptionen wirken sich auf die langfristigen Kosten und Risiken aus.
Unternehmensanreize prägen Produktstandards, Sicherheitslage und Offenheit.
Nous geht davon aus, dass die Zukunft der offenen KI dezentralisiert ist, wobei die Rechenleistung über viele unabhängige Mitwirkende gebündelt wird und nicht in einigen wenigen Hyperscale-Clustern konzentriert ist. Wenn ihre Trainingsmethoden mit geringer Bandbreite skalieren, könnten Gemeinden gemeinsam Modelle der Grenzklasse trainieren. Erwarten Sie kontinuierliche Veröffentlichungen leistungsfähiger offener Assistenten, umfassendere Investitionen in das verteilte Psyche-Netzwerk und argumentationsorientierte Modelle. Ihre Arbeit könnte die Hürde für die Ausbildung großer Modelle außerhalb der großen Technologiebranche erheblich senken.
Entwickler betreiben lokal die Modelle Nous Hermes und OpenHermes für private, steuerbare Chat-Assistenten ohne API-Kosten.
Forscher zitieren die DisTrO- und DeMo-Methoden von Nous, wenn sie bandbreiteneffizientes verteiltes Modelltraining untersuchen.
Hobbyisten und kleine Unternehmen optimieren die von Nous veröffentlichten Datensätze, um domänenspezifische Assistenten zu erstellen.
Das Psyche-Netzwerk wird verwendet, um mit Trainingsmodellen auf geografisch verteilten freiwilligen GPUs zu experimentieren.
Markteinführungsankündigungen können die Stabilität realer Produktionsabläufe übertreffen.
API-Preise oder Richtlinienänderungen können Annahmen über Nacht zunichte machen.
Die Abhängigkeit von einem einzigen Anbieter erhöht die Bindungs- und Migrationskosten.
Bewerten Sie Anbieter anhand Ihrer eigenen Aufgaben und Datensätze.
Lesen Sie vor der Integration Datenschutz, Sicherheit und rechtliche Bestimmungen.
Pflegen Sie einen Fallback-Plan für alle Modelle oder Anbieter.
Überwachen Sie die Versionshinweise, damit Roadmap-Änderungen die Teams nicht überraschen.
Free newsletter
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Nous Research ist ein von der Community betriebenes KI-Labor, das dafür bekannt ist, beliebte offene Modelle in hochleistungsfähige, weniger eingeschränkte Assistenten zu verfeinern und dezentrales Training voranzutreiben. Es zeigt, wie ein kleines Team und eine Open-Source-Community in der Modellqualität konkurrieren können, ohne über eine riesige Infrastruktur zu verfügen.
Nous erlangte Bekanntheit durch die Feinabstimmung offener Modelle wie Llama und Mistral in die beliebte Hermes-Familie.
Die Hermes- und Capybara-Serien von Nous basieren auf Modellen mit offener Basis, insbesondere Llama und Mistral.
DisTrO und der DeMo-Optimierer zielen darauf ab, die normalerweise erforderliche Inter-GPU-Bandbreite zu reduzieren und das Training über normale Internetverbindungen zu ermöglichen.
Psyche ist das dezentrale Trainingsnetzwerk von Nous, das untersucht, wie man verstreute GPUs bündelt, um große Modelle zu trainieren.
Nous wendet überwachte Feinabstimmung und Präferenzoptimierung zusätzlich zu offenen Basisgewichten unter Verwendung kuratierter Datensätze an.
Lerne weiter
Weitere Leitfäden zu diesem Thema ausgewählt
Als nächstesNächster Leitfaden
Tongyi Lab und Qwen Research
Unternehmen