Wat is er gebeurd
Startups van AI-applicaties adopteren steeds vaker open-weight-modellen om de stijgende API-kosten van OpenAI en Anthropic te beperken. Harvey, een legale AI-eenhoorn, zag zijn brutomarge in juni dalen tot -50% als gevolg van het hoge gebruik van OpenAI's GPT-4. Als reactie daarop bracht Harvey een model in eigen bezit uit, ondersteund door Kimi K3 van Moonshot AI, waardoor de positieve marges herstelden. Andere bedrijven, waaronder Abridge, Decagon en Ramp, ontwikkelen of passen ook hun eigen modellen aan, waarbij sommige tot 80% van het verkeer naar systemen in eigen beheer migreren. Deze verschuiving wordt aangedreven door agressieve prijsstrategieƫn van modelaanbieders en de verbeterde prestaties van open-sourcealternatieven.
Harvey, een legale AI-startup met een waarde van $15,6 miljard, ondervond in juni een aanzienlijke daling van de brutomarge van 50% naar -50% als gevolg van de hoge API-kosten van OpenAI's GPT-4. Om dit aan te pakken, bracht Harvey in augustus een eigen model uit, ondersteund door Kimi K3 van Moonshot AI, dat prestaties levert die dicht bij de beste producten van Anthropic liggen tegen een fractie van de kosten, waardoor de positieve marges worden hersteld.
De trend verspreidt zich over meerdere sectoren. Abridge bouwt een fundamenteel model voor klinische scenario's met behulp van het open-sourcemodel van NVIDIA, terwijl Decagon 80% van zijn queryverzoeken verwerkt met zijn eigen model. Op het gebied van fintech onderzoeken Ramp en Rogo zelftraining, en op het gebied van programmeertools hebben Cursor en Cognition op maat gemaakte modellen uitgebracht.
OpenAI en Anthropic zijn overgestapt op het in rekening brengen van extra kosten voor zakelijke gebruikers voor modelgebruik, waarbij 'token-maximaliserende' patronen met een hoog volume worden bestraft. Bovendien werven beide bedrijven talent in de kerntrajecten van startups en lanceren ze branchespecifieke plug-ins, waardoor directe concurrentie met hun klanten ontstaat. Het risico van opschorting van de toegang, zoals gezien bij Cursor na de overname door SpaceX, stimuleert startups verder om modelonafhankelijkheid te zoeken.
Ondanks de verschuiving verwachten de meeste startups niet dat ze OpenAI en Anthropic volledig zullen verlaten. Harvey vertrouwt nog steeds op Anthropic's Claude Opus voor complexe taken, wat duidt op een gemengde gebruiksstrategie. Er blijven uitdagingen bestaan, waaronder hoge talentkosten voor het verfijnen van ingenieurs, de behoefte aan bedrijfseigen gegevens en aanzienlijke infrastructuurkosten voor het beheren van open-weight-modellen.
Waarom het ertoe doet
Deze trend duidt op een structurele verschuiving in de kostendynamiek van de AI-industrie, omdat bedrijven op de applicatielaag proberen de afhankelijkheid van dure propriƫtaire API's te verminderen. Voor OpenAI en Anthropic, die zich voorbereiden op beursintroducties, zou de uitstroom van zakelijke klanten naar open-weight-modellen hun primaire inkomstenstromen kunnen uithollen. Deze stap benadrukt ook de groeiende levensvatbaarheid van open-sourcemodellen als een kosteneffectief alternatief, waardoor het concurrentielandschap mogelijk opnieuw wordt vormgegeven en modelaanbieders worden gedwongen hun prijs- en bedrijfsstrategieƫn aan te passen om zakelijke klanten te behouden.
De adoptie van open-weight-modellen door grote AI-startups vertegenwoordigt een aanzienlijke kostenbesparende maatregel die de omzetdynamiek voor OpenAI en Anthropic zou kunnen veranderen, vooral als ze zich voorbereiden op beursintroducties. Deze verschuiving kan modelaanbieders ertoe dwingen hun prijsstrategieƫn en zakelijke aanbiedingen te heroverwegen om de loyaliteit van klanten te behouden.
De verbeterde prestaties van open-sourcemodellen, zoals Kimi K3 van Moonshot AI, maken ze voor veel gebruiksscenario's tot een haalbaar alternatief voor propriƫtaire API's. Deze ontwikkeling zou de democratisering van AI-capaciteiten kunnen versnellen en de toetredingsdrempel voor nieuwe AI-toepassingen kunnen verlagen, waardoor innovatie in sectoren als de juridische sector, de gezondheidszorg en de financiƫle sector zou worden bevorderd.
De trend benadrukt ook het groeiende belang van data en infrastructuur bij de ontwikkeling van AI. Startups moeten investeren in bedrijfseigen data en computerbronnen om effectieve modellen te trainen, wat nieuwe kansen zou kunnen creƫren voor dataproviders en cloudinfrastructuurbedrijven, terwijl kleinere bedrijven met beperkte middelen voor uitdagingen zouden komen te staan.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
In AI, what are a model's "parameters"?
Wat je nu moet bekijken
Houd de financiƫle prestaties van OpenAI en Anthropic in de gaten terwijl ze hun beursintroductie naderen, met name eventuele wijzigingen in API-prijzen of bedrijfsretentiestrategieƫn. Volg de acceptatiegraad van open-weight-modellen onder grote startups van AI-applicaties en de ontwikkeling van nieuwe eigen modellen in sectoren als de gezondheidszorg, de financiƫle sector en de juridische dienstverlening. Observeer ook de impact van talent- en infrastructuurkosten op de haalbaarheid van zelftrainingsmodellen voor kleinere startups.
Houd eventuele wijzigingen in de API-prijzen of bedrijfscontracten van OpenAI en Anthropic in de gaten als reactie op de toenemende acceptatie van open-weight-modellen. Hun vermogen om zakelijke klanten te behouden zal van cruciaal belang zijn voor hun beursintroductiewaarderingen en duurzaamheid op de lange termijn.
Houd toezicht op de prestaties en adoptie van nieuwe eigen modellen van startups als Harvey, Abridge en Decagon. Succes op deze gebieden zou de open-sourceaanpak kunnen valideren en verdere migratie weg van bedrijfseigen API's kunnen aanmoedigen.
Observeer de impact van talent- en infrastructuurkosten op de haalbaarheid van zelftrainingsmodellen. Als deze barriĆØres hoog blijven, kunnen kleinere startups blijven vertrouwen op een mix van open en closed-source modellen, terwijl grotere bedrijven zich volledig kunnen blijven inzetten voor eigen oplossingen.