Cosa è successo
Le startup di applicazioni AI stanno adottando sempre più modelli open-weight per mitigare l’aumento dei costi API di OpenAI e Anthropic. Harvey, un unicorno AI legale, ha visto il suo margine lordo scendere al -50% a giugno a causa dell'elevato utilizzo di OpenAI di OpenAI. In risposta, Harvey ha rilasciato un modello di proprietà supportato da Kimi K3 di Moonshot AI, che ha ripristinato margini positivi. Anche altre società, tra cui Abridge, Decagon e Ramp, stanno sviluppando o personalizzando i propri modelli, alcune delle quali stanno migrando fino all'80% del traffico verso sistemi di proprietà. Questo cambiamento è guidato dalle strategie di prezzo aggressive dei fornitori di modelli e dal miglioramento delle prestazioni delle alternative open source.
Harvey, una startup legale di intelligenza artificiale valutata 15,6 miliardi di dollari, ha registrato un calo significativo del margine lordo dal 50% al -50% a giugno a causa degli elevati costi API di GPT-4 di OpenAI. Per risolvere questo problema, Harvey ha rilasciato in agosto un modello di proprietà, supportato da Kimi K3 di Moonshot AI, che offre prestazioni vicine ai migliori prodotti Anthropic a una frazione del costo, ripristinando margini positivi.
La tendenza si sta diffondendo in più settori. Abridge sta costruendo un modello fondamentale per scenari clinici utilizzando il modello open source di NVIDIA, mentre Decagon elabora l'80% delle richieste di query con il proprio modello di proprietà. Nel fintech, Ramp e Rogo stanno esplorando l'autoformazione e negli strumenti di programmazione, Cursor e Cognition hanno rilasciato modelli personalizzati.
OpenAI e Anthropic sono passati a addebitare agli utenti aziendali un costo aggiuntivo per l'utilizzo del modello, punendo i modelli di "massimizzazione dei token" ad alto volume. Inoltre, entrambe le società stanno reclutando talenti nei percorsi principali delle startup e lanciando plugin specifici del settore, creando concorrenza diretta con i propri clienti. Il rischio di sospensione dell’accesso, come visto con Cursor dopo la sua acquisizione da parte di SpaceX, incentiva ulteriormente le startup a cercare l’indipendenza dal modello.
Nonostante il cambiamento, la maggior parte delle startup non prevede di abbandonare completamente OpenAI e Anthropic. Harvey fa ancora affidamento su Claude Opus di Claude per compiti complessi, indicando una strategia di utilizzo misto. Rimangono sfide, tra cui gli elevati costi di talento per la messa a punto degli ingegneri, la necessità di dati proprietari e significative spese infrastrutturali per la gestione di modelli open-weight.
Dettagli della fonte: eu.36kr.com ↗
Perché è importante
Questa tendenza segnala un cambiamento strutturale nelle dinamiche dei costi del settore dell’intelligenza artificiale, poiché le aziende a livello applicativo cercano di ridurre la dipendenza da costose API proprietarie. Per OpenAI e Anthropic, che si stanno preparando per le IPO, il deflusso dei clienti aziendali verso modelli open-weight potrebbe erodere i loro flussi di entrate primarie. La mossa evidenzia anche la crescente fattibilità dei modelli open source come alternativa economicamente vantaggiosa, potenzialmente rimodellando il panorama competitivo e costringendo i fornitori di modelli ad adeguare le loro strategie di prezzo e di business per fidelizzare i clienti aziendali.
L’adozione di modelli open-weight da parte delle principali startup di intelligenza artificiale rappresenta una significativa misura di risparmio sui costi che potrebbe alterare le dinamiche dei ricavi per OpenAI e Anthropic, soprattutto mentre si preparano per le IPO. Questo cambiamento potrebbe costringere i fornitori di modelli a riconsiderare le loro strategie di prezzo e le offerte aziendali per mantenere la fedeltà dei clienti.
Il miglioramento delle prestazioni dei modelli open source, come Kimi K3 di Moonshot AI, li sta rendendo una valida alternativa alle API proprietarie per molti casi d'uso. Questo sviluppo potrebbe accelerare la democratizzazione delle capacità dell’intelligenza artificiale e ridurre la barriera all’ingresso per nuove applicazioni di intelligenza artificiale, promuovendo l’innovazione in settori come quello legale, sanitario e finanziario.
La tendenza evidenzia anche la crescente importanza dei dati e delle infrastrutture nello sviluppo dell’IA. Le startup devono investire in dati proprietari e risorse informatiche per formare modelli efficaci, che potrebbero creare nuove opportunità per i fornitori di dati e le società di infrastrutture cloud, ponendo al contempo sfide per le aziende più piccole con risorse limitate.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
In AI, what are a model's "parameters"?
Cosa guardare dopo
Monitora la performance finanziaria di OpenAI e Anthropic mentre si avvicinano alle loro IPO, in particolare eventuali cambiamenti nei prezzi delle API o nelle strategie di fidelizzazione aziendale. Tieni traccia dei tassi di adozione dei modelli open-weight tra le principali startup di applicazioni IA e dello sviluppo di nuovi modelli di proprietà in settori come sanità, finanza e servizi legali. Inoltre, osservare l’impatto dei costi del talento e delle infrastrutture sulla fattibilità di modelli di autoformazione per le startup più piccole.
Controlla eventuali modifiche ai prezzi API o ai contratti aziendali di OpenAI e Anthropic in risposta alla crescente adozione di modelli a peso aperto. La loro capacità di fidelizzare i clienti aziendali sarà cruciale per le loro valutazioni IPO e la sostenibilità a lungo termine.
Monitora le prestazioni e l'adozione di nuovi modelli di proprietà di startup come Harvey, Abridge e Decagon. Il successo in queste aree potrebbe convalidare l’approccio open source e incoraggiare un’ulteriore migrazione dalle API proprietarie.
Osservare l’impatto dei costi del talento e delle infrastrutture sulla fattibilità dei modelli di autoformazione. Se queste barriere rimangono elevate, le startup più piccole potrebbero continuare a fare affidamento su un mix di modelli open e closed source, mentre le aziende più grandi potrebbero impegnarsi completamente in soluzioni di proprietà propria.