Co się stało
Startupy aplikacji AI coraz częściej przyjmują modele o otwartej wadze, aby złagodzić rosnące koszty API z OpenAI i Anthropic. W czerwcu marża brutto Harveya, legalnego jednorożca AI, spadła do -50% ze względu na duże wykorzystanie GPT-4 OpenAI. W odpowiedzi Harvey wypuścił własny model obsługiwany przez Kimi K3 firmy Moonshot AI, który przywrócił dodatnie marże. Inne firmy, w tym Abridge, Decagon i Ramp, również opracowują lub dostosowują własne modele, a niektóre migrują nawet 80% ruchu do systemów będących własnością własną. Zmiana ta wynika z agresywnych strategii cenowych dostawców modeli i poprawy wydajności alternatyw typu open source.
Harvey, legalny start-up zajmujący się sztuczną inteligencją wyceniony na 15,6 miliarda dolarów, odnotował w czerwcu znaczny spadek marży brutto z 50% do -50% ze względu na wysokie koszty interfejsu API w przypadku GPT-4 OpenAI. Aby rozwiązać ten problem, Harvey wypuścił w sierpniu własny model, wspierany przez Kimi K3 firmy Moonshot AI, który oferuje wydajność bliską najlepszym produktom Anthropic za ułamek ceny, przywracając dodatnie marże.
Trend rozprzestrzenia się na wiele branż. Abridge buduje podstawowy model scenariuszy klinicznych, korzystając z modelu open source NVIDIA, podczas gdy Decagon przetwarza 80% swoich żądań zapytań za pomocą własnego modelu. W fintech Ramp i Rogo badają samokształcenie, a w narzędziach programistycznych Cursor i Cognition wypuściły niestandardowe modele.
OpenAI i Anthropic przestawiły się na pobieranie od użytkowników korporacyjnych dodatkowych opłat za korzystanie z modelu, co karze wzorce „maksymalizacji tokenów” o dużej objętości. Ponadto obie firmy rekrutują talenty na głównych ścieżkach start-upów i uruchamiają wtyczki branżowe, tworząc bezpośrednią konkurencję ze swoimi klientami. Ryzyko zawieszenia dostępu, jakie zaobserwowano w przypadku Cursor po jego przejęciu przez SpaceX, dodatkowo zachęca start-upy do poszukiwania niezależności od modelu.
Pomimo tej zmiany większość startupów nie spodziewa się całkowitej rezygnacji z OpenAI i Anthropic. Harvey w dalszym ciągu polega na Anthropic Opus Claude w przypadku złożonych zadań, co wskazuje na mieszaną strategię użytkowania. Pozostają wyzwania, w tym wysokie koszty wykwalifikowanej kadry inżynierów dostrajających, potrzeba zastrzeżonych danych i znaczne wydatki na infrastrukturę do zarządzania modelami o otwartej wadze.
Szczegóły źródła: eu.36kr.com ↗
Dlaczego to ma znaczenie
Tendencja ta sygnalizuje strukturalną zmianę dynamiki kosztów branży sztucznej inteligencji, ponieważ firmy działające w warstwie aplikacyjnej starają się zmniejszyć zależność od drogich, zastrzeżonych interfejsów API. W przypadku OpenAI i Anthropic, które przygotowują się do IPO, odpływ klientów korporacyjnych do modeli o otwartej wadze może ograniczyć ich główne źródła przychodów. Posunięcie to podkreśla również rosnącą rentowność modeli open source jako opłacalnej alternatywy, potencjalnie zmieniając krajobraz konkurencyjny i zmuszając dostawców modeli do dostosowania cen i strategii biznesowych w celu zatrzymania klientów korporacyjnych.
Przyjęcie modeli o otwartej wadze przez główne start-upy zajmujące się sztuczną inteligencją stanowi znaczący środek oszczędnościowy, który może zmienić dynamikę przychodów OpenAI i Anthropic, zwłaszcza w okresie przygotowań do IPO. Ta zmiana może zmusić dostawców modeli do ponownego rozważenia swoich strategii cenowych i ofert dla przedsiębiorstw, aby utrzymać lojalność klientów.
Coraz lepsza wydajność modeli open source, takich jak Kimi K3 firmy Moonshot AI, czyni je realną alternatywą dla zastrzeżonych interfejsów API w wielu przypadkach użycia. Rozwój ten mógłby przyspieszyć demokratyzację możliwości sztucznej inteligencji i zmniejszyć bariery wejścia na rynek dla nowych zastosowań sztucznej inteligencji, wspierając innowacje w sektorach takich jak prawo, opieka zdrowotna i finanse.
Tendencja ta podkreśla również rosnące znaczenie danych i infrastruktury w rozwoju sztucznej inteligencji. Startupy muszą inwestować w zastrzeżone dane i zasoby obliczeniowe, aby szkolić skuteczne modele, które mogłyby stworzyć nowe możliwości dla dostawców danych i firm zajmujących się infrastrukturą chmurową, jednocześnie stwarzając wyzwania dla mniejszych firm o ograniczonych zasobach.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
In AI, what are a model's "parameters"?
Co obejrzeć dalej
Monitoruj wyniki finansowe OpenAI i Anthropic w miarę zbliżania się do debiutu giełdowego, w szczególności wszelkie zmiany w cenach interfejsów API lub strategiach utrzymania przedsiębiorstwa. Śledź wskaźniki przyjęcia modeli o otwartej wadze wśród głównych start-upów zajmujących się aplikacjami AI oraz rozwój nowych modeli na własną rękę w sektorach takich jak opieka zdrowotna, finanse i usługi prawne. Obserwuj także wpływ talentów i kosztów infrastruktury na wykonalność modeli samokształcenia dla mniejszych start-upów.
Obserwuj wszelkie zmiany w cenach interfejsów API OpenAI i Anthropic lub umowach korporacyjnych w odpowiedzi na rosnące wykorzystanie modeli o otwartej wadze. Ich zdolność do utrzymania klientów korporacyjnych będzie kluczowa dla ich wyceny IPO i długoterminowej stabilności.
Monitoruj wydajność i wdrażanie nowych, własnych modeli od start-upów takich jak Harvey, Abridge i Decagon. Sukces w tych obszarach może zweryfikować podejście oparte na otwartym kodzie źródłowym i zachęcić do dalszej migracji od zastrzeżonych interfejsów API.
Obserwuj wpływ talentów i kosztów infrastruktury na wykonalność modeli samokształcenia. Jeśli bariery te pozostaną wysokie, mniejsze start-upy będą mogły w dalszym ciągu opierać się na połączeniu modeli o otwartym i zamkniętym kodzie źródłowym, podczas gdy większe firmy mogą w pełni zaangażować się w rozwiązania własne.