Retour aux Actualités
IndustrieBriefing AI Understanding

Les startups d'IA se tournent vers des modèles open source pour réduire les coûts

La hausse des frais d'API de OpenAI et Anthropic pousse les startups d'applications d'IA comme Harvey et Abridge à adopter des modèles à pondération ouverte pour reprendre le contrôle des coûts et protéger leurs marges avant les introductions en bourse majeures.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
Référence sourceSource enregistrée
Éditeur
eu.36kr.com
Lien source
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Type de source
Source liée : le statut de source principale n'a pas été établi.
ContexteComprenez cela en 60 secondes

Commencez ici

Termes clés

API (interface de programmation d'applications)
Une manière structurée permettant à un système logiciel d'envoyer des requêtes et de recevoir des réponses d'un autre système.
Modèle open source
Un modèle publié avec des poids ou un code public pour l'inspection, l'adaptation et la réutilisation.
Mise au point
Formation continue sur des données spécifiques au domaine pour adapter un modèle pré-entraîné à une tâche spécifique.
Testez-vousQuiz sur les modèles d'IA expliqués

Que s'est-il passé

Les startups d'applications d'IA adoptent de plus en plus de modèles ouverts pour atténuer la hausse des coûts des API de OpenAI et Anthropic. Harvey, une licorne légale d'IA, a vu sa marge brute chuter à -50 % en juin en raison de l'utilisation intensive du GPT-4 de OpenAI. En réponse, Harvey a publié un modèle indépendant soutenu par le Kimi K3 de Moonshot AI, qui a rétabli des marges positives. D'autres sociétés, notamment Abridge, Decagon et Ramp, développent ou personnalisent également leurs propres modèles, certaines migrant jusqu'à 80 % du trafic vers des systèmes propriétaires. Ce changement est motivé par les stratégies de tarification agressives des fournisseurs de modèles et par l'amélioration des performances des alternatives open source.

Harvey, une startup légale d'IA évaluée à 15,6 milliards de dollars, a connu une baisse significative de sa marge brute, passant de 50 % à -50 % en juin en raison des coûts élevés des API du GPT-4 de OpenAI. Pour résoudre ce problème, Harvey a lancé en août un modèle indépendant, soutenu par le Kimi K3 de Moonshot AI, qui offre des performances proches des meilleurs produits de Anthropic à une fraction du coût, rétablissant ainsi des marges positives.

La tendance se propage dans plusieurs secteurs. Abridge construit un modèle fondamental pour les scénarios cliniques à l'aide du modèle open source de NVIDIA, tandis que Decagon traite 80 % de ses requêtes avec son modèle propriétaire. Dans le domaine de la fintech, Ramp et Rogo explorent l'auto-formation, et dans les outils de programmation, Cursor et Cognition ont publié des modèles personnalisés.

OpenAI et Anthropic ont commencé à facturer des frais supplémentaires aux utilisateurs d'entreprise pour l'utilisation du modèle, punissant ainsi les modèles de « maximisation de jetons » à volume élevé. De plus, les deux sociétés recrutent des talents dans les filières principales des startups et lancent des plugins spécifiques au secteur, créant ainsi une concurrence directe avec leurs clients. Le risque de suspension de l'accès, comme celui observé avec Cursor après son acquisition par SpaceX, incite davantage les startups à rechercher l'indépendance du modèle.

Malgré ce changement, la plupart des startups ne prévoient pas d’abandonner complètement OpenAI et Anthropic. Harvey s'appuie toujours sur l'Opus Claude de Anthropic pour des tâches complexes, ce qui indique une stratégie d'utilisation mixte. Des défis subsistent, notamment le coût élevé des talents pour la mise au point des ingénieurs, le besoin de données propriétaires et des dépenses d'infrastructure importantes pour la gestion des modèles à poids ouvert.

Détails de la source: eu.36kr.com

Pourquoi c'est important

Cette tendance signale un changement structurel dans la dynamique des coûts du secteur de l'IA, alors que les entreprises de la couche application cherchent à réduire leur dépendance à l'égard d'API propriétaires coûteuses. Pour OpenAI et Anthropic, qui se préparent à des introductions en bourse, l'exode des clients professionnels vers des modèles ouverts pourrait éroder leurs principales sources de revenus. Cette décision met également en évidence la viabilité croissante des modèles open source en tant qu'alternative rentable, remodelant potentiellement le paysage concurrentiel et obligeant les fournisseurs de modèles à ajuster leurs tarifs et leurs stratégies commerciales pour fidéliser les entreprises clientes.

L'adoption de modèles à pondération ouverte par les grandes startups de l'IA représente une mesure d'économies significative qui pourrait modifier la dynamique des revenus de OpenAI et Anthropic, en particulier à l'heure où elles se préparent à leurs introductions en bourse. Ce changement pourrait obliger les fournisseurs de modèles à reconsidérer leurs stratégies de tarification et leurs offres d'entreprise afin de fidéliser leurs clients.

L'amélioration des performances des modèles open source, tels que le Kimi K3 de Moonshot AI, en fait une alternative viable aux API propriétaires pour de nombreux cas d'utilisation. Ce développement pourrait accélérer la démocratisation des capacités d’IA et réduire les barrières à l’entrée de nouvelles applications d’IA, favorisant ainsi l’innovation dans des secteurs tels que le droit, la santé et la finance.

Cette tendance met également en évidence l’importance croissante des données et des infrastructures dans le développement de l’IA. Les startups doivent investir dans des données et des ressources informatiques propriétaires pour former des modèles efficaces, ce qui pourrait créer de nouvelles opportunités pour les fournisseurs de données et les sociétés d'infrastructure cloud tout en posant des défis aux petites entreprises aux ressources limitées.

Interactive Mechanism

Mécanisme interactif : comment cela fonctionne réellement

Explorez de manière interactive la technologie sous-jacente à ce développement.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3B–8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
Vérification de concept interactive+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Que regarder ensuite

Surveillez les performances financières de OpenAI et Anthropic à l'approche de leur introduction en bourse, en particulier tout changement dans la tarification des API ou les stratégies de rétention de l'entreprise. Suivez les taux d'adoption des modèles ouverts parmi les principales startups d'applications d'IA et le développement de nouveaux modèles autonomes dans des secteurs tels que la santé, la finance et les services juridiques. Observez également l’impact des coûts de talent et d’infrastructure sur la faisabilité des modèles d’autoformation pour les petites startups.

Surveillez tout changement dans les tarifs API ou les contrats d'entreprise de OpenAI et Anthropic en réponse à l'adoption croissante de modèles à poids ouvert. Leur capacité à fidéliser les entreprises clientes sera cruciale pour la valorisation de leurs introductions en bourse et leur durabilité à long terme.

Surveillez les performances et l'adoption de nouveaux modèles autonomes de startups comme Harvey, Abridge et Decagon. Le succès dans ces domaines pourrait valider l’approche open source et encourager une nouvelle migration loin des API propriétaires.

Observez l’impact des coûts de talent et d’infrastructure sur la faisabilité des modèles d’autoformation. Si ces obstacles restent élevés, les petites startups pourraient continuer à s’appuyer sur une combinaison de modèles open source et fermés, tandis que les grandes entreprises pourraient s’engager pleinement dans des solutions qu’elles possèdent elles-mêmes.

Guides et quiz associés

Modèles d'IA expliquésÉthique de l'IAAvenir de l'IATestez ce que vous savez : essayez un quiz gratuit sur l'IARecherchez un terme d'IA dans notre glossaire
Vous avez trouvé cela utile ?