que paso
Las nuevas empresas de aplicaciones de IA están adoptando cada vez más modelos abiertos para mitigar los crecientes costos de API de OpenAI y Anthropic. Harvey, un unicornio legal de IA, vio caer su margen bruto al -50% en junio debido al alto uso de GPT-4 de OpenAI. En respuesta, Harvey lanzó un modelo propio respaldado por Kimi K3 de Moonshot AI, que restableció márgenes positivos. Otras empresas, incluidas Abridge, Decagon y Ramp, también están desarrollando o personalizando sus propios modelos, y algunas migran hasta el 80% del tráfico a sistemas propios. Este cambio está impulsado por estrategias agresivas de precios de los proveedores de modelos y la mejora del rendimiento de las alternativas de código abierto.
Harvey, una startup legal de IA valorada en 15.600 millones de dólares, experimentó una caída significativa en el margen bruto del 50% al -50% en junio debido a los altos costos de API del GPT-4 de OpenAI. Para abordar esto, Harvey lanzó un modelo propio en agosto, respaldado por Kimi K3 de Moonshot AI, que ofrece un rendimiento cercano a los mejores productos de Anthropic a una fracción del costo, restaurando márgenes positivos.
La tendencia se está extendiendo a múltiples industrias. Abridge está construyendo un modelo fundamental para escenarios clínicos utilizando el modelo de código abierto de NVIDIA, mientras que Decagon procesa el 80 % de sus solicitudes de consulta con su modelo propio. En fintech, Ramp y Rogo están explorando la autoformación, y en herramientas de programación, Cursor y Cognition han lanzado modelos personalizados.
OpenAI y Anthropic han pasado a cobrar más a los usuarios empresariales por el uso del modelo, castigando los patrones de "maximización de tokens" de gran volumen. Además, ambas empresas están reclutando talentos en las principales áreas de inicio y lanzando complementos específicos de la industria, creando competencia directa con sus clientes. El riesgo de suspensión del acceso, como se vio con Cursor después de su adquisición por SpaceX, incentiva aún más a las startups a buscar la independencia de modelo.
A pesar del cambio, la mayoría de las startups no esperan abandonar por completo OpenAI y Anthropic. Harvey todavía confía en Claude Opus de Anthropic para tareas complejas, lo que indica una estrategia de uso mixto. Los desafíos persisten, incluidos los altos costos de talento para los ingenieros de ajuste, la necesidad de datos propietarios y gastos significativos en infraestructura para administrar modelos abiertos.
Detalles de la fuente: eu.36kr.com ↗
Por qué es importante
Esta tendencia señala un cambio estructural en la dinámica de costos de la industria de la IA, a medida que las empresas de la capa de aplicaciones buscan reducir la dependencia de las costosas API propietarias. Para OpenAI y Anthropic, que se están preparando para las OPI, la salida de clientes empresariales hacia modelos abiertos podría erosionar sus principales fuentes de ingresos. La medida también destaca la creciente viabilidad de los modelos de código abierto como una alternativa rentable, que potencialmente remodelará el panorama competitivo y obligará a los proveedores de modelos a ajustar sus precios y estrategias comerciales para retener a los clientes empresariales.
La adopción de modelos abiertos por parte de las principales empresas emergentes de IA representa una importante medida de ahorro de costos que podría alterar la dinámica de ingresos de OpenAI y Anthropic, especialmente mientras se preparan para las OPI. Este cambio puede obligar a los proveedores de modelos a reconsiderar sus estrategias de precios y ofertas empresariales para mantener la lealtad de los clientes.
La mejora del rendimiento de los modelos de código abierto, como Kimi K3 de Moonshot AI, los convierte en una alternativa viable a las API propietarias para muchos casos de uso. Este desarrollo podría acelerar la democratización de las capacidades de IA y reducir la barrera de entrada para nuevas aplicaciones de IA, fomentando la innovación en sectores como el jurídico, el sanitario y el financiero.
La tendencia también destaca la creciente importancia de los datos y la infraestructura en el desarrollo de la IA. Las empresas emergentes deben invertir en datos patentados y recursos informáticos para entrenar modelos efectivos, lo que podría crear nuevas oportunidades para los proveedores de datos y las empresas de infraestructura en la nube, al tiempo que plantea desafíos para las empresas más pequeñas con recursos limitados.
Mecanismo interactivo: cómo funciona realmente
Explore la tecnología subyacente detrás de este desarrollo de forma interactiva.
In AI, what are a model's "parameters"?
Qué ver a continuación
Supervise el rendimiento financiero de OpenAI y Anthropic a medida que se acercan sus IPO, en particular cualquier cambio en los precios de API o las estrategias de retención empresarial. Realice un seguimiento de las tasas de adopción de modelos abiertos entre las principales empresas emergentes de aplicaciones de IA y el desarrollo de nuevos modelos propios en sectores como la atención médica, las finanzas y los servicios legales. Además, observe el impacto de los costos de talento e infraestructura en la viabilidad de modelos de autoformación para startups más pequeñas.
Esté atento a cualquier cambio en los precios de API o contratos empresariales de OpenAI y Anthropic en respuesta a la creciente adopción de modelos abiertos. Su capacidad para retener clientes empresariales será crucial para las valoraciones de sus IPO y su sostenibilidad a largo plazo.
Supervise el rendimiento y la adopción de nuevos modelos propios de nuevas empresas como Harvey, Abridge y Decagon. El éxito en estas áreas podría validar el enfoque de código abierto y fomentar una mayor migración desde las API propietarias.
Observe el impacto de los costos de talento e infraestructura en la viabilidad de los modelos de autoformación. Si estas barreras siguen siendo altas, las empresas emergentes más pequeñas pueden seguir dependiendo de una combinación de modelos de código abierto y cerrado, mientras que las empresas más grandes pueden comprometerse plenamente con soluciones propias.