Haberlere Geri Dön
EndüstriAI Understanding brifing

Yapay zeka girişimleri maliyetleri azaltmak için açık kaynak modellere geçiyor

OpenAI ve Anthropic'den gelen artan API ücretleri, Harvey ve Abridge gibi yapay zeka uygulaması girişimlerini, maliyet kontrolünü yeniden kazanmak ve büyük halka arzlardan önce marjları korumak için açık ağırlıklı modelleri benimsemeye yöneltiyor.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
Kaynak referansıKaynak kaydedildi
Yayıncı
eu.36kr.com
Kaynak bağlantısı
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Kaynak türü
Bağlantılı kaynak — birincil kaynak durumu belirlenmedi.
Bağlam60 saniyede bunu anlayın

Buradan başlayın

Anahtar terimler

API (Uygulama Programlama Arayüzü)
Bir yazılım sisteminin başka bir sisteme istek göndermesi ve bu sistemden yanıt alması için yapılandırılmış bir yol.
Açık Kaynak Modeli
İnceleme, uyarlama ve yeniden kullanım için genel ağırlıklar veya kodlarla birlikte piyasaya sürülen bir model.
İnce Ayar
Önceden eğitilmiş bir modeli belirli bir göreve uyarlamak için alana özgü veriler üzerinde sürekli eğitim.
Kendinizi test edinYapay Zeka Modelleri Açıklaması Testi

Ne oldu?

Yapay zeka uygulama girişimleri, OpenAI ve Anthropic'den kaynaklanan artan API maliyetlerini azaltmak için giderek daha fazla açık ağırlıklı modelleri benimsiyor. Yasal bir yapay zeka tek boynuzlu atı olan Harvey, OpenAI'nin GPT-4 ürününün yüksek kullanımı nedeniyle brüt kar marjının Haziran ayında %-50'ye düştüğünü gördü. Buna yanıt olarak Harvey, Moonshot AI'den Kimi K3 tarafından desteklenen ve pozitif marjları yeniden sağlayan kendine ait bir model yayınladı. Abridge, Decagon ve Ramp gibi diğer şirketler de kendi modellerini geliştiriyor veya özelleştiriyor; bazıları trafiğin %80'e kadarını kendi sistemlerine taşıyor. Bu değişim, model sağlayıcıların agresif fiyatlandırma stratejileri ve açık kaynak alternatiflerinin artan performansından kaynaklanmaktadır.

15,6 milyar dolar değerindeki yasal bir yapay zeka girişimi olan Harvey, OpenAI'nin GPT-4'sinin yüksek API maliyetleri nedeniyle brüt kar marjında ​​Haziran ayında %50'den -%50'ye önemli bir düşüş yaşadı. Bu sorunu çözmek için Harvey, Ağustos ayında Moonshot AI'nin Kimi K3'ü tarafından desteklenen, maliyetinin çok altında Anthropic'nin en iyi ürünlerine yakın performans sunan ve pozitif marjları geri getiren kendine ait bir model piyasaya sürdü.

Trend birden fazla sektöre yayılıyor. Abridge, NVIDIA'nin açık kaynak modelini kullanarak klinik senaryolar için temel bir model oluştururken Decagon, kendine ait modeliyle sorgu isteklerinin %80'ini işliyor. Fintech'te Ramp ve Rogo kendi kendine eğitimi araştırıyor ve programlama araçlarında Cursor ve Cognition özelleştirilmiş modeller yayınladı.

OpenAI ve Anthropic, kurumsal kullanıcılardan model kullanımı için ekstra ücret almaya yöneldi ve yüksek hacimli 'token maksimize etme' modellerini cezalandırdı. Ek olarak, her iki şirket de başlangıç ​​​​temel parçalarında yetenekleri işe alıyor ve sektöre özel eklentileri piyasaya sürerek müşterileriyle doğrudan rekabet yaratıyor. Cursor'nin SpaceX tarafından satın alınmasından sonra görüldüğü gibi erişimin askıya alınması riski, startup'ları model bağımsızlığı arayışına daha da teşvik ediyor.

Değişime rağmen çoğu startup OpenAI ve Anthropic'den tamamen vazgeçmeyi beklemiyor. Harvey karmaşık görevler için hâlâ Anthropic'nin Claude Opus'una güveniyor, bu da karma bir kullanım stratejisine işaret ediyor. Mühendislerin ince ayar yapması için yüksek yetenek maliyetleri, özel verilere duyulan ihtiyaç ve açık ağırlıklı modellerin yönetimi için önemli altyapı harcamaları gibi zorluklar devam ediyor.

Kaynak ayrıntıları: eu.36kr.com

Neden önemli?

Bu eğilim, uygulama katmanı şirketlerinin pahalı özel API'lere bağımlılığı azaltma arayışında olması nedeniyle yapay zeka endüstrisinin maliyet dinamiklerinde yapısal bir değişime işaret ediyor. Halka arzlara hazırlanan OpenAI ve Anthropic için kurumsal müşterilerin açık ağırlıklı modellere akışı, birincil gelir akışlarını aşındırabilir. Bu hamle aynı zamanda açık kaynak modellerinin uygun maliyetli bir alternatif olarak artan uygulanabilirliğini vurguluyor, potansiyel olarak rekabet ortamını yeniden şekillendiriyor ve model sağlayıcılarını kurumsal müşterileri elde tutmak için fiyatlandırmalarını ve iş stratejilerini ayarlamaya zorluyor.

Büyük yapay zeka girişimleri tarafından açık ağırlıklı modellerin benimsenmesi, özellikle halka arzlara hazırlanırken OpenAI ve Anthropic'nin gelir dinamiklerini değiştirebilecek önemli bir maliyet tasarrufu tedbirini temsil ediyor. Bu değişim, model sağlayıcılarını müşteri sadakatini korumak için fiyatlandırma stratejilerini ve kurumsal tekliflerini yeniden gözden geçirmeye zorlayabilir.

Moonshot AI'nin Kimi K3'ü gibi açık kaynaklı modellerin artan performansı, onları birçok kullanım durumunda özel API'lere uygun bir alternatif haline getiriyor. Bu gelişme, yapay zeka yeteneklerinin demokratikleşmesini hızlandırabilir ve yeni yapay zeka uygulamalarına giriş engelini azaltarak hukuk, sağlık ve finans gibi sektörlerde yenilikçiliği teşvik edebilir.

Bu trend aynı zamanda yapay zeka gelişiminde veri ve altyapının artan önemini de vurguluyor. Startup'ların etkili modeller yetiştirmek için özel verilere ve bilgi işlem kaynaklarına yatırım yapması gerekiyor; bu, veri sağlayıcılar ve bulut altyapı şirketleri için yeni fırsatlar yaratırken sınırlı kaynaklara sahip küçük firmalar için zorluklar yaratabilir.

Interactive Mechanism

İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?

Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3B–8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
İnteraktif Konsept Kontrolü+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Bundan sonra ne izlenecek?

Halka arzlarına yaklaştıkça OpenAI ve Anthropic'nin mali performansını, özellikle de API fiyatlandırması veya kurumsal elde tutma stratejilerindeki değişiklikleri izleyin. Büyük AI uygulama girişimleri arasında açık ağırlıklı modellerin benimsenme oranlarını ve sağlık, finans ve hukuk hizmetleri gibi sektörlerde yeni kendine ait modellerin gelişimini takip edin. Ayrıca yetenek ve altyapı maliyetlerinin, daha küçük girişimler için kendi kendine eğitim modellerinin uygulanabilirliği üzerindeki etkisini de gözlemleyin.

Açık ağırlık modellerinin giderek daha fazla benimsenmesine yanıt olarak OpenAI ve Anthropic'nin API fiyatlandırmasında veya kurumsal sözleşmelerinde olabilecek değişiklikleri izleyin. Kurumsal müşterileri elde tutma yetenekleri, halka arz değerlemeleri ve uzun vadeli sürdürülebilirlik açısından çok önemli olacaktır.

Harvey, Abridge ve Decagon gibi startup şirketlerin yeni kendine ait modellerinin performansını ve benimsenmesini izleyin. Bu alanlardaki başarı, açık kaynak yaklaşımını doğrulayabilir ve özel API'lerden daha fazla geçişi teşvik edebilir.

Yetenek ve altyapı maliyetlerinin kendi kendine eğitim modellerinin uygulanabilirliği üzerindeki etkisini gözlemleyin. Bu engeller yüksek kalırsa, daha küçük girişimler açık ve kapalı kaynak modellerinin bir karışımına güvenmeye devam edebilirken, daha büyük firmalar tamamen kendilerine ait çözümlere yönelebilir.

İlgili kılavuzlar ve testler

Yapay Zeka Modellerinin AçıklamasıYapay Zeka EtiğiYapay Zekanın GeleceğiBildiklerinizi test edin; ücretsiz bir yapay zeka testini deneyinSözlüğümüzde bir yapay zeka terimine bakın
Bunu yararlı buldunuz mu?