Ноус Исследования
Nous Research — это управляемая сообществом лаборатория искусственного интеллекта, известная тем, что превращает популярные открытые модели в высококвалифицированных и менее ограниченных помощников, а также продвигает децентрализованное обучение.
Обзор
It shows how a small team plus an open-source community can compete on model quality without owning massive infrastructure.
Глубокое погружение
Nous Research приобрела известность, взяв модели с открытой базой, особенно семейство Llama и Mistral компании Meta, и доведя их до широко используемых серий Hermes и Capybara. Их модели OpenHermes и Nous Hermes стали одними из самых загружаемых доработок на Hugging Face, получивших признание за строгое следование инструкциям и упор на управляемость, а не на резкий отказ. Помимо тонкой настройки, Ноус решил сложную проблему: распределенное обучение. Их исследование DisTrO и оптимизатор DeMo направлены на сокращение пропускной способности, необходимой между графическими процессорами, а сеть Psyche исследует обучение больших моделей на географически разбросанном оборудовании, подключенном к Интернету. Они также экспериментировали с моделями использования инструментов и моделями, ориентированными на рассуждения, позиционируя себя на переднем крае открытого, децентрализованного ИИ.
Техническая информация
Большинство моделей Nous не обучаются с нуля; они применяют контролируемую точную настройку и оптимизацию предпочтений (например, DPO) поверх открытых базовых весов, используя тщательно подобранные наборы синтетических и человеческих данных. Их работа по распределенному обучению устраняет узкое место в пропускной способности: обычно графические процессоры должны обмениваться огромными обновлениями градиента на каждом этапе. DisTrO/DeMo сжимает и разделяет эти обновления, чтобы узлы могли обучаться вместе по обычным интернет-каналам, а не требовать тесно связанного межсоединения центра обработки данных.
Стратегическое воздействие
Стратегия поставщика
Дорожные карты поставщиков влияют на то, какие функции ваша команда может создать дальше.
Стоимость и бюджет
Коммерческие условия и варианты развертывания влияют на долгосрочные затраты и риски.
Риски и безопасность
Стимулы компании влияют на невыполнение обязательств по продукту, безопасность и открытость.
Будущее исследований разума
Ноус делает ставку на то, что будущее открытого ИИ будет децентрализованным, где вычислительные ресурсы будут объединены между многими независимыми участниками, а не сосредоточены в нескольких гипермасштабируемых кластерах. Если их методы обучения с низкой пропускной способностью будут масштабироваться, сообщества смогут коллективно обучать модели передового класса. Ожидайте продолжения выпуска способных открытых помощников, более глубоких инвестиций в распределенную сеть Psyche и моделей, ориентированных на рассуждение. Их работа может существенно снизить барьер для обучения крупных моделей за пределами крупных технологических компаний.
Реальная реализация
Разработчики запускают модели Nous Hermes и OpenHermes локально для частных управляемых чат-помощников без затрат на API.
Исследователи ссылаются на методы DisTrO и DeMo компании Nous при изучении обучения распределенных моделей с эффективной полосой пропускания.
Любители и небольшие компании настраивают выпущенные наборы данных Nous для создания помощников, ориентированных на конкретную предметную область.
Сеть Psyche используется для экспериментов с моделями обучения на географически распределенных добровольных графических процессорах.
Риски и ограничения
Объявления о запуске могут опережать стабильность реальных производственных процессов.
Цены на API или изменения в политике могут в одночасье разрушить предположения.
Зависимость от одного поставщика увеличивает затраты на привязку и миграцию.
Дорожная карта реализации
Оценивайте поставщиков, используя собственные задачи и наборы данных.
Перед интеграцией ознакомьтесь с условиями конфиденциальности, безопасности и юридическими условиями.
Поддерживайте резервный план для разных моделей или поставщиков.
Отслеживайте примечания к выпуску, чтобы изменения в дорожной карте не удивили команды.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Nous Research quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Tongyi Lab и Qwen Research
Часто задаваемые вопросы
What is Nous Research?
Nous Research — это управляемая сообществом лаборатория искусственного интеллекта, известная тем, что превращает популярные открытые модели в высококвалифицированных и менее ограниченных помощников, а также продвигает децентрализованное обучение. Он показывает, как небольшая команда и сообщество разработчиков ПО с открытым исходным кодом могут конкурировать в качестве модели, не владея огромной инфраструктурой.
Чем Nous Research наиболее известна на раннем этапе своего становления?
Nous получил признание благодаря доработке открытых моделей, таких как Llama и Mistral, в популярное семейство Hermes.
Какие базовые модели Nous чаще всего настраивает?
Серии Nous Hermes и Capybara построены на моделях с открытой базой, особенно Llama и Mistral.
Какую проблему решают проекты Nous DisTrO и DeMo?
DisTrO и оптимизатор DeMo направлены на сокращение обычно необходимой пропускной способности между графическими процессорами, обеспечивая возможность обучения по обычным интернет-каналам.
Что такое сеть Психеи?
Psyche — это децентрализованная обучающая сеть Nous, которая изучает, как объединить разрозненные графические процессоры для обучения больших моделей.
Какой метод обычно использует Nous для согласования своих точно настроенных моделей?
Nous применяет контролируемую точную настройку и оптимизацию предпочтений поверх открытых базовых весов с использованием тщательно подобранных наборов данных.