O que aconteceu
As startups de aplicativos de IA estão adotando cada vez mais modelos abertos para mitigar os custos crescentes de API de OpenAI e Anthropic. Harvey, um unicórnio legal de IA, viu sua margem bruta cair para -50% em junho devido ao alto uso do OpenAI do GPT-4. Em resposta, Harvey lançou um modelo próprio apoiado pelo Kimi K3 da Moonshot AI, que restaurou margens positivas. Outras empresas, incluindo Abridge, Decagon e Ramp, também estão desenvolvendo ou customizando seus próprios modelos, com algumas migrando até 80% do tráfego para sistemas próprios. Esta mudança é impulsionada por estratégias agressivas de preços dos fornecedores de modelos e pela melhoria do desempenho das alternativas de código aberto.
Harvey, uma startup legal de IA avaliada em US$ 15,6 bilhões, experimentou uma queda significativa na margem bruta de 50% para -50% em junho devido aos altos custos de API do OpenAI da GPT-4. Para resolver isso, Harvey lançou um modelo próprio em agosto, apoiado pelo Kimi K3 da Moonshot AI, que oferece desempenho próximo aos melhores produtos da Anthropic por uma fração do custo, restaurando margens positivas.
A tendência está se espalhando por vários setores. Abridge está construindo um modelo básico para cenários clínicos usando o modelo de código aberto do NVIDIA, enquanto a Decagon processa 80% de suas solicitações de consulta com seu modelo próprio. Na fintech, Ramp e Rogo estão explorando o autotreinamento e, em ferramentas de programação, Cursor e Cognition lançaram modelos customizados.
OpenAI e Anthropic passaram a cobrar mais dos usuários corporativos pelo uso do modelo, punindo padrões de “maximização de token” de alto volume. Além disso, ambas as empresas estão recrutando talentos em áreas centrais de startups e lançando plug-ins específicos do setor, criando concorrência direta com seus clientes. O risco de suspensão de acesso, como visto no Cursor após sua aquisição pela SpaceX, incentiva ainda mais as startups a buscarem independência de modelo.
Apesar da mudança, a maioria das startups não espera abandonar totalmente OpenAI e Anthropic. Harvey ainda depende do Anthropic Opus Claude para tarefas complexas, indicando uma estratégia de uso mista. Os desafios permanecem, incluindo altos custos de talentos para engenheiros de ajuste fino, a necessidade de dados proprietários e despesas significativas de infraestrutura para gerenciar modelos de peso aberto.
Detalhes da fonte: eu.36kr.com ↗
Por que isso importa
Esta tendência sinaliza uma mudança estrutural na dinâmica de custos da indústria de IA, à medida que as empresas da camada de aplicação procuram reduzir a dependência de APIs proprietárias caras. Para OpenAI e Anthropic, que estão se preparando para IPOs, a saída de clientes empresariais para modelos de peso aberto poderia corroer seus fluxos de receitas primários. A medida também destaca a crescente viabilidade dos modelos de código aberto como uma alternativa rentável, potencialmente remodelando o cenário competitivo e forçando os fornecedores de modelos a ajustar os seus preços e estratégias de negócios para reter clientes empresariais.
A adoção de modelos abertos pelas principais startups de IA representa uma medida significativa de redução de custos que pode alterar a dinâmica das receitas de OpenAI e Anthropic, especialmente enquanto se preparam para IPOs. Esta mudança pode forçar os fornecedores de modelos a reconsiderar as suas estratégias de preços e ofertas empresariais para manter a fidelidade do cliente.
A melhoria do desempenho de modelos de código aberto, como o Kimi K3 da Moonshot AI, está tornando-os uma alternativa viável às APIs proprietárias para muitos casos de uso. Este desenvolvimento poderá acelerar a democratização das capacidades de IA e reduzir a barreira à entrada de novas aplicações de IA, promovendo a inovação em setores como o jurídico, os cuidados de saúde e as finanças.
A tendência também destaca a importância crescente dos dados e da infraestrutura no desenvolvimento da IA. As startups devem investir em dados proprietários e recursos computacionais para treinar modelos eficazes, o que poderá criar novas oportunidades para fornecedores de dados e empresas de infraestrutura em nuvem, ao mesmo tempo que representa desafios para empresas mais pequenas com recursos limitados.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
In AI, what are a model's "parameters"?
O que assistir a seguir
Monitore o desempenho financeiro de OpenAI e Anthropic à medida que se aproximam de seus IPOs, especialmente quaisquer mudanças nos preços de API ou estratégias de retenção corporativa. Acompanhe as taxas de adoção de modelos abertos entre as principais startups de aplicações de IA e o desenvolvimento de novos modelos próprios em setores como saúde, finanças e serviços jurídicos. Além disso, observe o impacto dos custos de talentos e infraestrutura na viabilidade de modelos de autoformação para startups menores.
Fique atento a quaisquer alterações nos preços de API ou contratos empresariais de OpenAI e Anthropic em resposta à crescente adoção de modelos de peso aberto. A sua capacidade de reter clientes empresariais será crucial para as suas avaliações de IPO e para a sustentabilidade a longo prazo.
Monitore o desempenho e a adoção de novos modelos próprios de startups como Harvey, Abridge e Decagon. O sucesso nestas áreas poderia validar a abordagem de código aberto e encorajar uma maior migração para longe das APIs proprietárias.
Observe o impacto dos custos de talentos e infraestrutura na viabilidade de modelos de autoformação. Se estas barreiras permanecerem elevadas, as startups mais pequenas poderão continuar a contar com uma combinação de modelos de código aberto e fechado, enquanto as empresas maiores poderão comprometer-se totalmente com soluções próprias.