Co se stalo
Startupy aplikací umělé inteligence stále více přijímají modely s otevřenou váhou, aby zmírnily rostoucí náklady na API ze OpenAI a Anthropic. Harvey, legální AI jednorožec, zaznamenal v červnu pokles hrubé marže na -50 % kvůli vysokému využití GPT-4 od OpenAI. V reakci na to vydal Harvey vlastní model podporovaný Kimi K3 od Moonshot AI, který obnovil pozitivní marže. Další společnosti, včetně Abridge, Decagon a Ramp, také vyvíjejí nebo upravují své vlastní modely, přičemž některé migrují až 80 % provozu na vlastní systémy. Tento posun je řízen agresivními cenovými strategiemi od modelových poskytovatelů a zlepšujícím se výkonem open-source alternativ.
Harvey, legální startup s umělou inteligencí v hodnotě 15,6 miliardy dolarů, zaznamenal v červnu výrazný pokles hrubé marže z 50 % na -50 % kvůli vysokým nákladům na API od GPT-4 společnosti OpenAI. Aby to vyřešil, Harvey v srpnu vydal vlastní model podporovaný Kimi K3 od Moonshot AI, který nabízí výkon blízký nejlepším produktům Anthropic za zlomek nákladů a obnovuje kladné marže.
Trend se šíří do mnoha odvětví. Abridge buduje základní model pro klinické scénáře pomocí open-source modelu NVIDIA, zatímco Decagon zpracovává 80 % svých dotazů pomocí vlastního modelu. V oblasti fintech Ramp a Rogo zkoumají autotrénink a v programovacích nástrojích Cursor a Cognition vydaly přizpůsobené modely.
OpenAI a Anthropic se posunuly k účtování poplatků podnikovým uživatelům navíc za používání modelu, čímž trestají vzory „maximalizace tokenů“ ve velkém objemu. Kromě toho obě společnosti nabírají talenty v základních startovacích tratích a spouštějí pluginy specifické pro odvětví, čímž vytvářejí přímou konkurenci se svými zákazníky. Riziko pozastavení přístupu, jak je vidět u Cursor po jeho akvizici společností SpaceX, dále motivuje startupy k hledání nezávislosti na modelu.
Navzdory posunu většina startupů neočekává, že by OpenAI a Anthropic úplně opustila. Harvey stále spoléhá na Claude Opus od Anthropic pro komplexní úkoly, což naznačuje smíšenou strategii použití. Výzvy přetrvávají, včetně vysokých nákladů na talenty pro dolaďovací inženýry, potřeby proprietárních dat a značných nákladů na infrastrukturu pro správu modelů s otevřenou váhou.
Podrobnosti o zdroji: eu.36kr.com ↗
Proč na tom záleží
Tento trend signalizuje strukturální posun v dynamice nákladů odvětví AI, protože společnosti na aplikační vrstvě se snaží snížit závislost na drahých proprietárních API. U OpenAI a Anthropic, které se připravují na IPO, by odliv podnikových zákazníků k modelům s otevřenou váhou mohl narušit jejich primární zdroje příjmů. Tento krok také zdůrazňuje rostoucí životaschopnost ů jako nákladově efektivní alternativy, která potenciálně přetváří konkurenční prostředí a nutí poskytovatele modelů upravit své cenové a obchodní strategie, aby si udrželi podnikové klienty.
Přijetí modelů s otevřenou váhou velkými startupy s umělou inteligencí představuje významné opatření pro úsporu nákladů, které by mohlo změnit dynamiku příjmů pro OpenAI a Anthropic, zejména když se připravují na IPO. Tento posun může donutit poskytovatele modelů, aby přehodnotili své cenové strategie a podnikové nabídky, aby si udrželi loajalitu zákazníků.
Zlepšující se výkon modelů s otevřeným zdrojovým kódem, jako je Kimi K3 od Moonshot AI, z nich dělá životaschopnou alternativu k proprietárním rozhraním API pro mnoho případů použití. Tento vývoj by mohl urychlit demokratizaci schopností umělé inteligence a snížit překážku vstupu nových aplikací umělé inteligence a podpořit inovace v odvětvích, jako je právo, zdravotnictví a finance.
Tento trend také zdůrazňuje rostoucí význam dat a infrastruktury ve vývoji AI. Startupy musí investovat do proprietárních dat a výpočetních zdrojů, aby trénovaly efektivní modely, které by mohly vytvořit nové příležitosti pro poskytovatele dat a společnosti s cloudovou infrastrukturou a zároveň představovat výzvy pro menší firmy s omezenými zdroji.
Interaktivní mechanismus: Jak to vlastně funguje
Interaktivně prozkoumejte základní technologii tohoto vývoje.
In AI, what are a model's "parameters"?
Na co se dále dívat
Monitorujte finanční výkonnost OpenAI a Anthropic, když se blíží ke svým IPO, zejména jakékoli změny v cenách API nebo strategiích pro udržení podniku. Sledujte míru přijetí modelů s otevřenou váhou mezi hlavními startupy s aplikacemi AI a vývoj nových vlastních modelů v odvětvích, jako je zdravotnictví, finance a právní služby. Sledujte také dopad nákladů na talenty a infrastrukturu na proveditelnost modelů autoškolení pro menší startupy.
Sledujte jakékoli změny v cenách API nebo podnikových smlouvách OpenAI a Anthropic v reakci na rostoucí zavádění modelů s otevřenou váhou. Jejich schopnost udržet si podnikové zákazníky bude zásadní pro jejich ocenění IPO a dlouhodobou udržitelnost.
Sledujte výkon a přijímání nových modelů od startupů jako Harvey, Abridge a Decagon. Úspěch v těchto oblastech by mohl potvrdit přístup s otevřeným zdrojovým kódem a podpořit další migraci od proprietárních rozhraní API.
Sledujte dopad nákladů na talenty a infrastrukturu na proveditelnost modelů autoškolení. Pokud tyto bariéry zůstanou vysoké, menší startupy se mohou i nadále spoléhat na kombinaci otevřených a uzavřených modelů, zatímco větší firmy se mohou plně zavázat k řešení ve vlastním vlastnictví.