Назад до новин
ПромисловістьAI Understanding брифінг

Стартапи штучного інтелекту переходять на моделі з відкритим кодом, щоб скоротити витрати

Зростаючі збори за API від OpenAI і Anthropic спонукають стартапи додатків штучного інтелекту, як-от Harvey і Abridge, використовувати відкриті моделі, щоб відновити контроль над витратами та захистити маржу напередодні великих IPO.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
Посилання на джерелоДжерело записано
Видавець
eu.36kr.com
Посилання на джерело
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Тип джерела
Пов’язане джерело — статус первинного джерела не встановлено.
КонтекстЗрозумійте це за 60 секунд

Почніть тут

Ключові терміни

API (інтерфейс прикладного програмування)
Структурований спосіб для однієї програмної системи надсилати запити до іншої системи та отримувати відповіді від неї.
Модель з відкритим кодом
Модель, випущена з загальнодоступними вагами або кодом для перевірки, адаптації та повторного використання.
Точне налаштування
Постійне навчання на предметних даних для адаптації попередньо навченої моделі до конкретного завдання.
Перевір себеВікторина «Пояснення моделей ШІ».

Що сталося

Стартапи додатків штучного інтелекту все частіше застосовують відкриті моделі, щоб зменшити зростання витрат на API від OpenAI і Anthropic. У Harvey, легального штучного єдинорога, валовий прибуток знизився до -50% у червні через високе використання OpenAI GPT-4. У відповідь Harvey випустив власну модель із підтримкою Kimi K3 від Moonshot AI, яка відновила позитивну маржу. Інші компанії, зокрема Abridge, Decagon і Ramp, також розробляють або налаштовують власні моделі, причому деякі переносять до 80% трафіку на власні системи. Ця зміна викликана агресивними стратегіями ціноутворення постачальників моделей і підвищенням продуктивності альтернатив з відкритим кодом.

Harvey, легальний стартап штучного інтелекту, який оцінюється в 15,6 мільярда доларів, зазнав значного падіння валової рентабельності з 50% до -50% у червні через високі витрати на API від OpenAI GPT-4. Щоб вирішити цю проблему, у серпні компанія Harvey випустила власну модель із підтримкою Kimi K3 від Moonshot AI, яка пропонує продуктивність, близьку до найкращих продуктів Anthropic, за невелику частину вартості, відновлюючи позитивну маржу.

Ця тенденція поширюється в багатьох галузях. Abridge будує базову модель для клінічних сценаріїв, використовуючи модель відкритого коду NVIDIA, а Decagon обробляє 80% своїх запитів за допомогою своєї самостійної моделі. У фінтех Ремп і Рого досліджують самонавчання, а в інструментах програмування Cursor і Cognition випустили індивідуальні моделі.

OpenAI і Anthropic перейшли до стягнення додаткової плати з корпоративних користувачів за використання моделі, караючи шаблони «максимізації токенів» у великих обсягах. Крім того, обидві компанії залучають таланти в основні напрямки стартапів і запускають галузеві плагіни, створюючи пряму конкуренцію своїм клієнтам. Ризик призупинення доступу, як це видно з Cursor після його придбання компанією SpaceX, ще більше стимулює стартапи до пошуку незалежності від моделі.

Незважаючи на зміни, більшість стартапів не очікують повної відмови від OpenAI і Anthropic. Харві досі покладається на Anthropic Opus Claude для складних завдань, що вказує на змішану стратегію використання. Залишаються проблеми, зокрема високі витрати на кадри для інженерів з тонкого налаштування, потреба у приватних даних і значні витрати на інфраструктуру для керування відкритими моделями.

Деталі джерела: eu.36kr.com

Чому це важливо

Ця тенденція свідчить про структурний зсув у динаміці витрат індустрії штучного інтелекту, оскільки компанії прикладного рівня прагнуть зменшити залежність від дорогих фірмових API. Для OpenAI і Anthropic, які готуються до IPO, відтік корпоративних клієнтів до відкритих моделей може підірвати їхні основні потоки доходу. Цей крок також підкреслює зростаючу життєздатність моделей з відкритим вихідним кодом як економічно ефективної альтернативи, яка потенційно може змінити конкурентний ландшафт і змушує постачальників моделей коригувати свої ціни та бізнес-стратегії, щоб утримати корпоративних клієнтів.

Прийняття відкритих моделей великими стартапами штучного інтелекту є суттєвим заходом економії, який може змінити динаміку доходів для OpenAI і Anthropic, особливо під час підготовки до IPO. Ця зміна може змусити модельних постачальників переглянути свої цінові стратегії та корпоративні пропозиції, щоб зберегти лояльність клієнтів.

Покращення продуктивності моделей із відкритим кодом, таких як Kimi K3 від Moonshot AI, робить їх життєздатною альтернативою пропрієтарним API для багатьох випадків використання. Ця розробка може прискорити демократизацію можливостей штучного інтелекту та зменшити бар’єр для входу на територію нових додатків штучного інтелекту, сприяючи інноваціям у таких секторах, як право, охорона здоров’я та фінанси.

Ця тенденція також підкреслює зростаючу важливість даних та інфраструктури в розробці ШІ. Стартапи повинні інвестувати у власні дані та обчислювальні ресурси для навчання ефективних моделей, які можуть створити нові можливості для постачальників даних і компаній хмарної інфраструктури, створюючи проблеми для невеликих компаній з обмеженими ресурсами.

Interactive Mechanism

Інтерактивний механізм: як він насправді працює

Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3B–8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
Інтерактивна перевірка концепції+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Що дивитися далі

Слідкуйте за фінансовими показниками OpenAI і Anthropic, коли вони наближаються до IPO, зокрема за будь-якими змінами в ціноутворенні API або стратегіях утримання підприємства. Відстежуйте темпи впровадження відкритих моделей серед основних стартапів із застосуванням ШІ та розробку нових власних моделей у таких секторах, як охорона здоров’я, фінанси та юридичні послуги. Також спостерігайте за впливом талантів і витрат на інфраструктуру на доцільність моделей самонавчання для невеликих стартапів.

Слідкуйте за будь-якими змінами в ціноутворенні API OpenAI і Anthropic або корпоративних контрактах у відповідь на зростаюче впровадження відкритих моделей. Їх здатність утримувати корпоративних клієнтів буде мати вирішальне значення для оцінки IPO та довгострокової стабільності.

Відстежуйте продуктивність і впровадження нових власних моделей від таких стартапів, як Harvey, Abridge і Decagon. Успіх у цих сферах міг би підтвердити підхід із відкритим вихідним кодом і сприяти подальшому переходу від пропрієтарних API.

Поспостерігайте за впливом талантів та витрат на інфраструктуру на здійсненність моделей самонавчання. Якщо ці бар’єри залишаться високими, невеликі стартапи можуть продовжувати покладатися на поєднання моделей із відкритим і закритим кодом, тоді як великі фірми можуть повністю взяти на себе власні рішення.

Пов’язані посібники та вікторини

Пояснення моделей AIЕтика ШІМайбутнє ШІПеревірте свої знання — пройдіть безкоштовну вікторину зі штучним інтелектомЗнайдіть термін ШІ в нашому глосарії
Знайшли це корисним?