Vissza a Hírekhez
IparAI Understanding eligazítás

Az induló mesterséges intelligencia vállalkozások nyílt forráskódú modellekre térnek át a költségek csökkentése érdekében

A OpenAI és a Anthropic növekvő API-díjai arra késztetik az olyan mesterséges intelligencia-alkalmazások indulását, mint a Harvey és az Abridge, hogy átvegyenek nyílt súlyú modelleket, hogy visszanyerjék a költségkontrollt és megóvják az árrést a jelentősebb IPO-k előtt.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
Forrás hivatkozásForrás rögzített
Kiadó
eu.36kr.com
Forrás link
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Forrás típusa
Hivatkozott forrás – az elsődleges forrás állapota nincs megállapítva.
KontextusÉrtsd meg ezt 60 másodperc alatt

Kezdje itt

Kulcsfogalmak

API (Application Programming Interface)
Strukturált módja annak, hogy egy szoftverrendszer kéréseket küldjön egy másik rendszernek, és válaszokat fogadjon onnan.
Nyílt forráskódú modell
Nyilvános súlyokkal vagy kóddal kiadott modell ellenőrzés, adaptálás és újrafelhasználás céljából.
Finomhangolás
Tartomány-specifikus adatok továbbképzése egy előre betanított modell adott feladathoz való adaptálásához.
Teszteld magadAI modellek magyarázata kvíz

Mi történt

Az AI-alkalmazások induló vállalkozásai egyre gyakrabban alkalmaznak nyitott súlyú modelleket, hogy csökkentsék a OpenAI és Anthropic növekvő API-költségeit. A Harvey, a legális mesterséges intelligencia egyszarvú, a bruttó árrés -50%-ra esett júniusban a OpenAI GPT-4 magas használatának köszönhetően. Válaszul Harvey kiadott egy saját tulajdonú modellt, amelyet a Moonshot AI Kimi K3 támogat, amely visszaállította a pozitív árrést. Más cégek, köztük az Abridge, a Decagon és a Ramp szintén fejlesztik vagy testreszabják saját modelleiket, és egyesek a forgalom akár 80%-át is saját tulajdonú rendszerekre költöztetik. Ezt az elmozdulást a modellszolgáltatók agresszív árképzési stratégiái és a nyílt forráskódú alternatívák teljesítményének javulása okozzák.

A Harvey, a 15,6 milliárd dollár értékű legális mesterségesintelligencia-vállalkozás júniusban a bruttó árrés jelentősen, 50%-ról -50%-ra csökkent a OpenAI GPT-4 magas API-költségei miatt. Ennek megoldására a Harvey augusztusban kiadott egy saját tulajdonú modellt, amelyet a Moonshot AI Kimi K3 támogat, amely a Anthropic legjobb termékeihez közeli teljesítményt kínál a költségek töredékéért, visszaállítva a pozitív árrést.

A tendencia több iparágra is kiterjed. Az Abridge a klinikai forgatókönyvek alapmodelljét építi a NVIDIA nyílt forráskódú modelljét használva, míg a Decagon lekérdezési kérelmei 80%-át saját tulajdonú modelljével dolgozza fel. A fintech területén a Ramp és a Rogo az önképzést vizsgálja, a programozási eszközök terén pedig a Cursor és a Cognition személyre szabott modelleket adott ki.

A OpenAI és a Anthropic áttértek arra, hogy a vállalati felhasználóktól különdíjat számítsanak fel a modellhasználatért, büntetve a nagy volumenű „token-maximalizáló” mintákat. Ezenkívül mindkét vállalat tehetségeket toboroz az induló alappályákon, és iparág-specifikus bővítményeket vezet be, közvetlen versenyt teremtve ügyfeleikkel. A hozzáférés felfüggesztésének kockázata, amint azt a Cursor esetében a SpaceX felvásárlása után láthattuk, tovább ösztönzi a startupokat a modellfüggetlenségre.

Az elmozdulás ellenére a legtöbb induló vállalkozás nem várja el teljesen a OpenAI és a Anthropic modelleket. Harvey továbbra is a Anthropic Claude Opus-ára támaszkodik az összetett feladatokhoz, ami vegyes felhasználási stratégiát jelez. A kihívások továbbra is fennállnak, beleértve a finomhangoló mérnökök magas tehetségköltségeit, a védett adatok iránti igényt és a nyitott súlyú modellek kezeléséhez szükséges jelentős infrastrukturális kiadásokat.

Forrás részletei: eu.36kr.com

Miért számít

Ez a tendencia szerkezeti elmozdulást jelez az AI-ipar költségdinamikájában, mivel az alkalmazásszintű vállalatok igyekeznek csökkenteni a drága szabadalmaztatott API-któl való függőséget. Az IPO-ra készülő OpenAI és Anthropic esetében a vállalati ügyfelek nyitott súlyú modellek felé történő kiáramlása erodálhatja elsődleges bevételi forrásaikat. A lépés emellett rávilágít a nyílt forráskódú modellek növekvő életképességére, mint költséghatékony alternatívára, ami potenciálisan átalakítja a versenykörnyezetet, és arra kényszeríti a modellszolgáltatókat, hogy módosítsák árazási és üzleti stratégiáikat a vállalati ügyfelek megtartása érdekében.

A nyitott súlyú modellek elfogadása a nagy MI startupoknál jelentős költségmegtakarítási intézkedést jelent, amely megváltoztathatja a OpenAI és Anthropic bevételi dinamikáját, különösen az IPO-kra való felkészülés során. Ez az elmozdulás arra kényszerítheti a modellszolgáltatókat, hogy újragondolják árképzési stratégiájukat és vállalati ajánlataikat az ügyfelek hűségének megőrzése érdekében.

A nyílt forráskódú modellek, például a Moonshot AI Kimi K3 teljesítményének javulása számos felhasználási esetben életképes alternatívává teszi őket a szabadalmaztatott API-kkal szemben. Ez a fejlemény felgyorsíthatja a mesterséges intelligencia képességeinek demokratizálódását, és csökkentheti az új mesterségesintelligencia-alkalmazások piacra lépésének akadályait, elősegítve az innovációt az olyan ágazatokban, mint a jogi, az egészségügy és a pénzügy.

A tendencia rávilágít az adatok és az infrastruktúra növekvő fontosságára is a mesterséges intelligencia fejlesztésében. Az induló vállalkozásoknak saját tulajdonú adatokba és számítási erőforrásokba kell befektetniük a hatékony modellek képzéséhez, ami új lehetőségeket teremthet az adatszolgáltatók és a felhő infrastruktúrával foglalkozó vállalatok számára, miközben kihívásokat jelent a korlátozott erőforrásokkal rendelkező kisebb cégek számára.

Interactive Mechanism

Interaktív mechanizmus: Hogyan működik valójában

Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3B–8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
Interaktív koncepció ellenőrzése+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Mit nézzünk ezután

Kövesse nyomon a OpenAI és a Anthropic pénzügyi teljesítményét, ahogy közelednek IPO-jukhoz, különösen az API-árazásban vagy a vállalatmegtartási stratégiákban bekövetkezett változásokat. Kövesse nyomon a nyílt súlyú modellek elfogadási arányát a nagy mesterségesintelligencia-alkalmazások indulói körében, valamint az új, saját tulajdonú modellek fejlesztését olyan ágazatokban, mint az egészségügy, a pénzügy és a jogi szolgáltatások. Figyelje meg a tehetségek és az infrastrukturális költségek hatását a kisebb induló vállalkozások önképzési modelljeinek megvalósíthatóságára.

Figyelje meg a OpenAI és Anthropic API-árazásában vagy a vállalati szerződésekben bekövetkezett változásokat a nyitott súlyú modellek növekvő elterjedése miatt. A vállalati ügyfelek megtartására való képességük kulcsfontosságú lesz IPO-értékeléseik és hosszú távú fenntarthatóságuk szempontjából.

Kövesse nyomon az olyan induló vállalkozások, mint a Harvey, az Abridge és a Decagon új saját tulajdonú modelljeinek teljesítményét és bevezetését. Az ezeken a területeken elért siker igazolhatja a nyílt forráskódú megközelítést, és ösztönözheti a szabadalmaztatott API-któl való további migrációt.

Figyelje meg a tehetség és az infrastruktúra költségeinek hatását az önképzési modellek megvalósíthatóságára. Ha ezek az akadályok továbbra is magasak maradnak, a kisebb startupok továbbra is a nyílt és a zárt forráskódú modellek keverékére hagyatkozhatnak, míg a nagyobb cégek teljes mértékben elkötelezhetik magukat a saját tulajdonú megoldások mellett.

Kapcsolódó útmutatók és vetélkedők

Az AI modellek magyarázataMI-etikaAz MI jövőjeTesztelje, amit tud – próbáljon ki egy ingyenes AI-kvíztKeressen egy AI kifejezést a szószedetünkben
Ezt hasznosnak találta?