무슨 일이 일어났나요?
AI 애플리케이션 스타트업은 OpenAI 및 Anthropic의 API 비용 상승을 완화하기 위해 개방형 모델을 점점 더 많이 채택하고 있습니다. 합법적인 AI 유니콘인 Harvey는 OpenAI의 GPT-4 사용률이 높아 6월 총 마진이 -50%로 떨어졌습니다. 이에 Harvey는 Moonshot AI의 Kimi K3가 지원하는 자체 소유 모델을 출시하여 흑자 마진을 회복했습니다. Abridge, Decagon, Ramp를 포함한 다른 회사들도 자체 모델을 개발하거나 사용자 정의하고 있으며 일부 회사는 최대 80%의 트래픽을 자체 소유 시스템으로 마이그레이션하고 있습니다. 이러한 변화는 모델 제공업체의 공격적인 가격 책정 전략과 오픈 소스 대안의 성능 향상에 의해 주도됩니다.
156억 달러 가치의 합법적 AI 스타트업인 Harvey는 OpenAI의 GPT-4의 높은 API 비용으로 인해 6월 총 마진이 50%에서 -50%로 크게 감소했습니다. 이 문제를 해결하기 위해 Harvey는 지난 8월 Moonshot AI의 Kimi K3가 지원하는 자체 소유 모델을 출시했습니다. 이 모델은 저렴한 비용으로 Anthropic의 최고 제품에 가까운 성능을 제공하여 긍정적인 마진을 회복했습니다.
이러한 추세는 여러 산업 분야로 확산되고 있습니다. Abridge는 NVIDIA의 오픈 소스 모델을 사용하여 임상 시나리오를 위한 기본 모델을 구축하고 있으며 Decagon은 자체 소유 모델을 사용하여 쿼리 요청의 80%를 처리합니다. 핀테크에서는 Ramp와 Rogo가 자가 훈련을 탐구하고 있으며, 프로그래밍 도구에서는 Cursor와 Cognition이 맞춤형 모델을 출시했습니다.
OpenAI 및 Anthropic는 모델 사용에 대해 기업 사용자에게 추가 요금을 부과하는 방식으로 전환하여 대량의 '토큰 최대화' 패턴을 처벌했습니다. 또한 두 회사는 스타트업 핵심 트랙에서 인재를 모집하고 산업별 플러그인을 출시하여 고객과 직접적인 경쟁을 벌이고 있습니다. SpaceX가 인수한 후 Cursor에서 볼 수 있듯이 액세스 중단의 위험은 스타트업이 모델 독립성을 추구하도록 더욱 장려합니다.
이러한 변화에도 불구하고 대부분의 스타트업은 OpenAI 및 Anthropic를 완전히 포기할 것으로 예상하지 않습니다. Harvey는 복잡한 작업을 위해 여전히 Anthropic의 Claude Opus에 의존하고 있으며 이는 혼합 사용 전략을 나타냅니다. 미세 조정 엔지니어를 위한 높은 인재 비용, 독점 데이터에 대한 필요성, 개방형 모델 관리를 위한 상당한 인프라 비용 등의 과제가 남아 있습니다.
왜 중요한가요?
이러한 추세는 애플리케이션 계층 기업이 고가의 독점 API에 대한 의존도를 줄이려고 노력함에 따라 AI 산업의 비용 역학에 구조적 변화가 있음을 나타냅니다. IPO를 준비 중인 OpenAI 및 Anthropic의 경우 기업 고객이 개방형 모델로 유출되면 주요 수익원이 침식될 수 있습니다. 이러한 움직임은 또한 비용 효율적인 대안으로서 오픈 소스 모델의 생존 가능성이 높아지고 있음을 강조하며, 잠재적으로 경쟁 환경을 재편하고 모델 제공업체가 기업 고객을 유지하기 위해 가격 책정 및 비즈니스 전략을 조정하도록 강요합니다.
주요 AI 스타트업의 개방형 모델 채택은 특히 IPO를 준비할 때 OpenAI 및 Anthropic의 수익 역학을 변경할 수 있는 상당한 비용 절감 조치를 나타냅니다. 이러한 변화로 인해 모델 제공업체는 고객 충성도를 유지하기 위해 가격 책정 전략과 엔터프라이즈 제품을 재고해야 할 수 있습니다.
Moonshot AI의 Kimi K3와 같은 오픈 소스 모델의 성능 향상으로 인해 많은 사용 사례에서 독점 API에 대한 실행 가능한 대안이 되고 있습니다. 이러한 개발은 AI 기능의 민주화를 가속화하고 새로운 AI 애플리케이션의 진입 장벽을 낮추어 법률, 의료, 금융과 같은 분야의 혁신을 촉진할 수 있습니다.
이러한 추세는 또한 AI 개발에서 데이터와 인프라의 중요성이 커지고 있음을 강조합니다. 스타트업은 효과적인 모델을 교육하기 위해 독점적인 데이터와 컴퓨팅 리소스에 투자해야 합니다. 이는 데이터 제공업체와 클라우드 인프라 회사에 새로운 기회를 창출하는 동시에 리소스가 제한된 소규모 기업에는 과제를 안겨줄 수 있습니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
In AI, what are a model's "parameters"?
다음에 무엇을 볼 것인가
IPO에 접근하는 OpenAI 및 Anthropic의 재무 성과, 특히 API 가격 책정 또는 기업 유지 전략의 변경 사항을 모니터링합니다. 주요 AI 애플리케이션 스타트업의 개방형 모델 채택률과 의료, 금융, 법률 서비스와 같은 분야의 새로운 자체 소유 모델 개발을 추적하세요. 또한 소규모 스타트업을 위한 자가 교육 모델의 타당성에 대한 인재 및 인프라 비용의 영향을 관찰하십시오.
개방형 모델 채택 증가에 따른 OpenAI 및 Anthropic의 API 가격 책정 또는 기업 계약의 변경 사항을 살펴보세요. 기업 고객을 유지하는 능력은 IPO 가치 평가와 장기적인 지속 가능성에 매우 중요합니다.
Harvey, Abridge, Decagon과 같은 스타트업의 새로운 자체 소유 모델의 성능과 채택을 모니터링합니다. 이러한 영역에서의 성공은 오픈 소스 접근 방식을 검증하고 독점 API에서 벗어나 추가 마이그레이션을 장려할 수 있습니다.
자가 훈련 모델의 타당성에 대한 인재 및 인프라 비용의 영향을 관찰합니다. 이러한 장벽이 여전히 높다면 소규모 스타트업은 오픈 소스 모델과 비공개 소스 모델을 혼합하여 계속 의존할 수 있는 반면, 대기업은 자체 소유 솔루션에 전적으로 전념할 수 있습니다.