Назад към Новини
ИндустрияAI Understanding брифинг

Стартиращите AI компании преминават към модели с отворен код, за да намалят разходите

Нарастващите такси за API от OpenAI и Anthropic карат стартиращи компании за AI приложения като Harvey и Abridge да приемат отворени модели, за да възвърнат контрола върху разходите и да защитят маржовете преди големи IPO-та.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
ИзточникИзточникът е записан
Издател
eu.36kr.com
Изходна връзка
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Тип източник
Свързан източник — статусът на първичен източник не е установен.
КонтекстРазберете това за 60 секунди

Започнете тук

Ключови термини

API (интерфейс за програмиране на приложения)
Структуриран начин за една софтуерна система да изпраща заявки до и да получава отговори от друга система.
Модел с отворен код
Модел, издаден с публични тегла или код за проверка, адаптиране и повторно използване.
Фина настройка
Продължаващо обучение върху специфични за домейн данни за адаптиране на предварително обучен модел към конкретна задача.
Тествайте себе сиТест за обяснение на AI модели

Какво стана

Стартиращите AI приложения все повече приемат отворени модели, за да смекчат нарастващите разходи за API от OpenAI и Anthropic. Harvey, легален AI еднорог, отбеляза спад на брутния си марж до -50% през юни поради високото използване на GPT-4 на OpenAI. В отговор Harvey пусна собствен модел, поддържан от Kimi K3 на Moonshot AI, който възстанови положителните маржове. Други компании, включително Abridge, Decagon и Ramp, също разработват или персонализират свои собствени модели, като някои мигрират до 80% от трафика към собствени системи. Тази промяна се движи от агресивните ценови стратегии от доставчиците на модели и подобряващата се производителност на алтернативите с отворен код.

Harvey, легален стартиращ AI, оценен на $15,6 милиарда, претърпя значителен спад в брутния марж от 50% на -50% през юни поради високите разходи за API от GPT-4 на OpenAI. За да се справи с това, Harvey пусна собствен модел през август, подкрепен от Kimi K3 на Moonshot AI, който предлага производителност, близка до най-добрите продукти на Anthropic на малка част от цената, възстановявайки положителните маржове.

Тенденцията се разпространява в множество индустрии. Abridge изгражда основен модел за клинични сценарии, използвайки модела с отворен код на NVIDIA, докато Decagon обработва 80% от своите заявки за заявки със собствения си модел. Във fintech Ramp и Rogo изследват самообучението, а в инструментите за програмиране Cursor и Cognition пуснаха персонализирани модели.

OpenAI и Anthropic се пренасочиха към таксуване на корпоративните потребители допълнително за използване на модела, наказвайки моделите за „максимизиране на токени“ с голям обем. Освен това и двете компании набират таланти в основните направления за стартиране и пускат специфични за индустрията плъгини, създавайки пряка конкуренция с техните клиенти. Рискът от спиране на достъпа, както се наблюдава при Cursor след придобиването му от SpaceX, допълнително стимулира стартиращите компании да търсят независимост на модела.

Въпреки промяната, повечето стартиращи фирми не очакват да се откажат напълно от OpenAI и Anthropic. Харви все още разчита на Claude Opus на Anthropic за сложни задачи, което показва смесена стратегия за използване. Предизвикателствата остават, включително високи разходи за таланти за инженери за фина настройка, необходимостта от собствени данни и значителни инфраструктурни разходи за управление на модели с отворено тегло.

Детайли за източника: eu.36kr.com

Защо има значение

Тази тенденция сигнализира за структурна промяна в динамиката на разходите на AI индустрията, тъй като компаниите от приложния слой се стремят да намалят зависимостта от скъпи собствени API. За OpenAI и Anthropic, които се подготвят за IPO, изтичането на корпоративни клиенти към модели с отворено тегло може да подкопае основните им потоци от приходи. Този ход също така подчертава нарастващата жизнеспособност на моделите с отворен код като рентабилна алтернатива, потенциално прекрояваща конкурентната среда и принуждаваща доставчиците на модели да коригират своите цени и бизнес стратегии, за да задържат корпоративни клиенти.

Приемането на отворени модели от големите стартиращи фирми за изкуствен интелект представлява значителна мярка за спестяване на разходи, която може да промени динамиката на приходите за OpenAI и Anthropic, особено когато се подготвят за IPO. Тази промяна може да принуди доставчиците на модели да преразгледат своите ценови стратегии и корпоративни предложения, за да поддържат лоялността на клиентите.

Подобряването на производителността на моделите с отворен код, като Kimi K3 на Moonshot AI, ги прави жизнеспособна алтернатива на патентованите API за много случаи на употреба. Това развитие може да ускори демократизацията на способностите на ИИ и да намали бариерата за навлизане на нови приложения с ИИ, насърчавайки иновациите в сектори като правни, здравеопазване и финанси.

Тенденцията също така подчертава нарастващото значение на данните и инфраструктурата в развитието на ИИ. Стартъпите трябва да инвестират в собствени данни и изчислителни ресурси, за да обучат ефективни модели, които биха могли да създадат нови възможности за доставчиците на данни и компаниите за облачна инфраструктура, като същевременно поставят предизвикателства за по-малките фирми с ограничени ресурси.

Interactive Mechanism

Интерактивен механизъм: как всъщност работи

Разгледайте интерактивно основната технология зад тази разработка.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3B–8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
Интерактивна проверка на концепцията+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Какво да гледате след това

Наблюдавайте финансовото представяне на OpenAI и Anthropic, докато наближават IPO-тата си, особено всички промени в ценообразуването на API или стратегиите за задържане на предприятието. Проследявайте степента на приемане на отворени модели сред големите стартиращи компании за AI приложения и разработването на нови собствени модели в сектори като здравеопазване, финанси и правни услуги. Освен това наблюдавайте въздействието на разходите за талант и инфраструктура върху осъществимостта на моделите за самообучение за по-малки стартиращи компании.

Следете за всякакви промени в ценообразуването на API на OpenAI и Anthropic или корпоративните договори в отговор на нарастващото приемане на модели с отворено тегло. Способността им да задържат корпоративни клиенти ще бъде от решаващо значение за техните IPO оценки и дългосрочна устойчивост.

Наблюдавайте ефективността и приемането на нови собствени модели от стартиращи компании като Harvey, Abridge и Decagon. Успехът в тези области би могъл да утвърди подхода с отворен код и да насърчи по-нататъшна миграция от патентовани API.

Наблюдавайте влиянието на разходите за талант и инфраструктура върху осъществимостта на моделите за самообучение. Ако тези бариери останат високи, по-малките стартиращи фирми може да продължат да разчитат на комбинация от модели с отворен и затворен код, докато по-големите фирми могат изцяло да се ангажират със собствени решения.

Свързани ръководства и викторини

Обяснени модели на AIЕтика на ИИБъдещето на ИИТествайте какво знаете — опитайте безплатен тест с изкуствен интелектПотърсете термин за AI в нашия речник
Намирате ли това за полезно?