A seguirPróximo guia
Laboratório Tongyi e Pesquisa Qwen
Empresas
GUIA DE EMPRESAS
Nous Research é um laboratório de IA voltado para a comunidade, conhecido por ajustar modelos abertos populares em assistentes altamente capazes e menos restritos e por promover treinamento descentralizado.
Ele mostra como uma equipe pequena e uma comunidade de código aberto podem competir na qualidade do modelo sem possuir uma infraestrutura enorme.
A Nous Research ganhou destaque ao pegar modelos de base aberta, especialmente a família Llama e Mistral de Meta, e ajustá-los nas amplamente utilizadas séries Hermes e Capivara. Seus modelos OpenHermes e Nous Hermes se tornaram alguns dos ajustes mais baixados no Hugging Face, valorizados pelo forte seguimento de instruções e pela ênfase na dirigibilidade em vez do comportamento de recusa pesada. Além do ajuste fino, Nous abordou um problema difícil: treinamento distribuído. Sua pesquisa DisTrO e o otimizador DeMo visam reduzir a largura de banda de comunicação necessária entre GPUs, e a rede Psyche explora o treinamento de grandes modelos em hardware conectado à Internet geograficamente disperso. Eles também experimentaram modelos focados no uso de ferramentas e no raciocínio, posicionando-se na fronteira da IA aberta e descentralizada.
Os roteiros dos fornecedores influenciam quais recursos sua equipe pode construir a seguir.
Os termos comerciais e as opções de implantação afetam os custos e riscos a longo prazo.
Os incentivos da empresa moldam os padrões de produto, a postura de segurança e a abertura.
A Nous aposta que o futuro da IA aberta será descentralizado, onde a computação será agrupada entre muitos contribuidores independentes, em vez de concentrada em alguns clusters de hiperescala. Se os seus métodos de formação em baixa largura de banda forem ampliados, as comunidades poderão treinar colectivamente modelos de classe fronteiriça. Espere lançamentos contínuos de assistentes abertos capazes, investimentos mais profundos na rede distribuída Psyche e modelos orientados ao raciocínio. Seu trabalho poderia reduzir significativamente a barreira ao treinamento de grandes modelos fora das grandes tecnologias.
Os desenvolvedores executam modelos Nous Hermes e OpenHermes localmente para assistentes de bate-papo privados e orientáveis, sem custos de API.
Os pesquisadores citam os métodos DisTrO e DeMo da Nous ao explorar o treinamento de modelos distribuídos com eficiência de largura de banda.
Hobbyists e pequenas empresas ajustam os conjuntos de dados lançados pela Nous para construir assistentes específicos de domínio.
A rede Psyche é usada para experimentar modelos de treinamento em GPUs voluntárias distribuídas geograficamente.
Os anúncios de lançamento podem superar a estabilidade em fluxos de trabalho de produção reais.
Os preços das APIs ou as mudanças nas políticas podem quebrar suposições da noite para o dia.
A dependência de um único fornecedor aumenta os custos de aprisionamento e migração.
Avalie os provedores usando suas próprias tarefas e conjuntos de dados.
Revise os termos legais, de privacidade e segurança antes da integração.
Mantenha um plano alternativo entre modelos ou fornecedores.
Monitore as notas de lançamento para que as mudanças no roteiro não surpreendam as equipes.
Free newsletter
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Nous Research é um laboratório de IA voltado para a comunidade, conhecido por ajustar modelos abertos populares em assistentes altamente capazes e menos restritos e por promover treinamento descentralizado. Ele mostra como uma equipe pequena e uma comunidade de código aberto podem competir na qualidade do modelo sem possuir uma infraestrutura enorme.
Nous ganhou reconhecimento ao ajustar modelos abertos como Llama e Mistral na popular família Hermes.
As séries Hermes e Capivara da Nous são construídas em modelos de base aberta, especialmente Llama e Mistral.
O DisTrO e o otimizador DeMo visam reduzir a largura de banda entre GPUs normalmente necessária, permitindo o treinamento em links comuns de Internet.
Psyche é a rede de treinamento descentralizada da Nous que explora como agrupar GPUs dispersas para treinar grandes modelos.
Nous aplica ajuste fino supervisionado e otimização de preferências sobre pesos de base abertos usando conjuntos de dados selecionados.
Continue aprendendo
Mais guias escolhidos para este tópico
A seguirPróximo guia
Laboratório Tongyi e Pesquisa Qwen
Empresas