Вернуться к новостям
ПромышленностьAI Understanding брифинг

Стартапы в области искусственного интеллекта переходят на модели с открытым исходным кодом, чтобы сократить расходы

Рост комиссий за API от OpenAI и Anthropic побуждает стартапы в области приложений искусственного интеллекта, такие как Harvey и Abridge, внедрять модели открытого веса, чтобы восстановить контроль над расходами и защитить прибыль перед крупными IPO.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
Ссылка на источникИсточник записан
Издатель
eu.36kr.com
Ссылка на источник
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Тип источника
Связанный источник — статус первоисточника не установлен.
КонтекстПоймите это за 60 секунд

Начните здесь

Ключевые термины

API (интерфейс прикладного программирования)
Структурированный способ отправки одной программной системой запросов и получения ответов от другой системы.
Модель с открытым исходным кодом
Модель выпущена с общедоступными весами или кодом для проверки, адаптации и повторного использования.
Точная настройка
Продолжение обучения на предметных данных для адаптации предварительно обученной модели к конкретной задаче.
Проверьте себяВикторина с объяснением моделей искусственного интеллекта

Что случилось

Стартапы приложений искусственного интеллекта все чаще применяют модели открытого веса, чтобы снизить растущие затраты на API от OpenAI и Anthropic. Валовая прибыль компании Harvey, легального ИИ-единорога, в июне упала до -50% из-за активного использования GPT-4 компании OpenAI. В ответ Харви выпустил собственную модель, поддерживаемую Kimi K3 от Moonshot AI, которая восстановила положительную прибыль. Другие компании, в том числе Abridge, Decagon и Ramp, также разрабатывают или адаптируют свои собственные модели, при этом некоторые из них переносят до 80% трафика на собственные системы. Этот сдвиг обусловлен агрессивной ценовой стратегией поставщиков моделей и повышением производительности альтернатив с открытым исходным кодом.

Harvey, легальный стартап в области искусственного интеллекта, оцениваемый в $15,6 млрд, испытал значительное падение валовой прибыли с 50% до -50% в июне из-за высоких затрат на API от OpenAI GPT-4. Чтобы решить эту проблему, в августе Harvey выпустил собственную модель при поддержке Kimi K3 от Moonshot AI, которая предлагает производительность, близкую к лучшим продуктам Anthropic, за небольшую часть стоимости, восстанавливая положительную прибыль.

Тенденция распространяется на многие отрасли. Abridge создает базовую модель для клинических сценариев, используя модель с открытым исходным кодом NVIDIA, а Decagon обрабатывает 80% своих запросов с помощью собственной модели. В сфере финансовых технологий Ramp и Rogo изучают возможности самообучения, а в области инструментов программирования Cursor и Cognition выпустили индивидуальные модели.

OpenAI и Anthropic перешли к взиманию дополнительной платы с корпоративных пользователей за использование модели, наказывая за шаблоны «максимизации токенов» в больших объемах. Кроме того, обе компании набирают таланты в основных направлениях стартапов и запускают отраслевые плагины, создавая прямую конкуренцию своим клиентам. Риск приостановки доступа, как это видно на примере Cursor после его приобретения SpaceX, еще больше стимулирует стартапы стремиться к независимости моделей.

Несмотря на этот сдвиг, большинство стартапов не планируют полностью отказаться от OpenAI и Anthropic. Харви по-прежнему полагается на Claude Opus от Anthropic для решения сложных задач, что указывает на смешанную стратегию использования. Проблемы остаются, в том числе высокие затраты на оплату труда инженеров по точной настройке, потребность в собственных данных и значительные затраты на инфраструктуру для управления моделями с открытым весом.

Подробности об источнике: eu.36kr.com

Почему это важно

Эта тенденция сигнализирует о структурном сдвиге в динамике затрат в отрасли искусственного интеллекта, поскольку компании прикладного уровня стремятся снизить зависимость от дорогих проприетарных API. Для OpenAI и Anthropic, которые готовятся к IPO, отток корпоративных клиентов на модели открытого веса может подорвать их основные потоки доходов. Этот шаг также подчеркивает растущую жизнеспособность моделей с открытым исходным кодом как экономически эффективной альтернативы, потенциально изменяющей конкурентную среду и вынуждающей поставщиков моделей корректировать свои ценовые и бизнес-стратегии, чтобы удержать корпоративных клиентов.

Внедрение моделей открытого веса крупными стартапами в сфере искусственного интеллекта представляет собой значительную меру экономии, которая может изменить динамику доходов OpenAI и Anthropic, особенно в процессе подготовки к IPO. Этот сдвиг может заставить поставщиков моделей пересмотреть свои стратегии ценообразования и корпоративные предложения, чтобы сохранить лояльность клиентов.

Повышение производительности моделей с открытым исходным кодом, таких как Kimi K3 от Moonshot AI, делает их жизнеспособной альтернативой проприетарным API для многих случаев использования. Эта разработка может ускорить демократизацию возможностей ИИ и снизить барьер для входа на рынок новых приложений ИИ, способствуя инновациям в таких секторах, как юриспруденция, здравоохранение и финансы.

Эта тенденция также подчеркивает растущую важность данных и инфраструктуры в разработке ИИ. Стартапы должны инвестировать в собственные данные и вычислительные ресурсы для обучения эффективных моделей, которые могут создать новые возможности для поставщиков данных и компаний облачной инфраструктуры, одновременно создавая проблемы для небольших фирм с ограниченными ресурсами.

Interactive Mechanism

Интерактивный механизм: как он на самом деле работает

Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3B–8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
Интерактивная проверка концепции+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Что посмотреть дальше

Следите за финансовыми показателями OpenAI и Anthropic по мере их выхода на IPO, особенно за любыми изменениями в ценах на API или стратегиях удержания предприятий. Отслеживайте темпы внедрения моделей открытого веса среди крупных стартапов в области приложений искусственного интеллекта и разработки новых собственных моделей в таких секторах, как здравоохранение, финансы и юридические услуги. Также обратите внимание на влияние затрат на таланты и инфраструктуру на осуществимость моделей самообучения для небольших стартапов.

Следите за любыми изменениями в ценах на API OpenAI и Anthropic или корпоративных контрактах в ответ на растущее распространение моделей открытого веса. Их способность удерживать корпоративных клиентов будет иметь решающее значение для оценки их IPO и долгосрочной устойчивости.

Отслеживайте производительность и внедрение новых собственных моделей от таких стартапов, как Harvey, Abridge и Decagon. Успех в этих областях может подтвердить подход с открытым исходным кодом и стимулировать дальнейший переход от проприетарных API.

Обратите внимание на влияние затрат на таланты и инфраструктуру на осуществимость моделей самообучения. Если эти барьеры останутся высокими, небольшие стартапы могут продолжать полагаться на сочетание моделей с открытым и закрытым исходным кодом, в то время как более крупные фирмы могут полностью посвятить себя собственным решениям.

Сопутствующие руководства и викторины

Объяснение моделей искусственного интеллектаЭтика ИИБудущее ИИПроверьте свои знания — пройдите бесплатную викторину по искусственному интеллектуНайдите термин ИИ в нашем глоссарии.
Нашли это полезным?