Rudi kwa Habari
ViwandaAI Understanding muhtasari

Uanzishaji wa AI hubadilika hadi mifano ya chanzo-wazi ili kupunguza gharama

Ada za API zinazopanda kutoka OpenAI na Anthropic zinaendesha programu zinazoanzisha programu za AI kama vile Harvey na Abridge kutumia miundo ya uzani huria ili kurejesha udhibiti wa gharama na kulinda ukingo mbele ya IPO kuu.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
Rejeleo la chanzoChanzo kimerekodiwa
Mchapishaji
eu.36kr.com
Kiungo cha chanzo
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Aina ya chanzo
Chanzo kilichounganishwa - hali ya chanzo-msingi haijaanzishwa.
MuktadhaElewa hili katika sekunde 60

Anzia hapa

Masharti muhimu

API (Kiolesura cha Kuandaa Programu)
Njia iliyoundwa kwa mfumo mmoja wa programu kutuma maombi na kupokea majibu kutoka kwa mfumo mwingine.
Mfano wa Chanzo Huria
Muundo uliotolewa na uzani wa umma au msimbo wa kukaguliwa, kurekebishwa na kutumiwa tena.
Urekebishaji Mzuri
Kuendelea na mafunzo juu ya data mahususi ya kikoa ili kurekebisha muundo uliofunzwa mapema kwa kazi mahususi.
Jijaribu mwenyeweMaswali Yanayofafanuliwa kwa Miundo ya AI

Nini kilitokea

Programu zinazoanzisha programu za AI zinazidi kutumia miundo ya uzani huria ili kupunguza kupanda kwa gharama za API kutoka OpenAI na Anthropic. Harvey, nyati halali wa AI, aliona kiwango chake cha jumla kilishuka hadi -50% mwezi Juni kutokana na matumizi makubwa ya OpenAI GPT-4 ya OpenAI. Kujibu, Harvey alitoa kielelezo cha kibinafsi kinachoungwa mkono na Kimi K3 cha Moonshot AI, ambacho kilirejesha kiasi chanya. Makampuni mengine, ikiwa ni pamoja na Abridge, Decagon, na Ramp, pia yanatengeneza au kubinafsisha miundo yao wenyewe, huku baadhi yao wakihama hadi 80% ya trafiki kwenda kwenye mifumo inayomilikiwa kibinafsi. Mabadiliko haya yanaendeshwa na mikakati ya bei kali kutoka kwa watoa huduma wa mfano na utendakazi bora wa njia mbadala za chanzo huria.

Harvey, kampuni iliyoanzishwa kisheria ya AI yenye thamani ya $15.6 bilioni, ilipata kushuka kwa kiasi kikubwa kutoka asilimia 50 hadi -50% mwezi Juni kutokana na gharama kubwa za API kutoka OpenAI GPT-4 ya OpenAI. Ili kushughulikia hili, Harvey alitoa modeli inayomilikiwa kibinafsi mnamo Agosti, ikiungwa mkono na Kimi K3 ya Moonshot AI, ambayo inatoa utendaji karibu na bidhaa bora za Anthropic kwa sehemu ya gharama, na kurejesha ukingo chanya.

Mwenendo huo unaenea katika tasnia nyingi. Abridge inaunda muundo wa kimsingi wa matukio ya kimatibabu kwa kutumia modeli ya chanzo huria ya NVIDIA, huku Decagon inashughulikia 80% ya maombi yake ya hoja kwa kutumia muundo wake unaomilikiwa kibinafsi. Katika fintech, Ramp na Rogo wanachunguza mafunzo ya kibinafsi, na katika zana za programu, Cursor na Cognition wametoa mifano maalum.

OpenAI na Anthropic zimehamia kwa kutoza watumiaji wa biashara ya ziada kwa matumizi ya kielelezo, na kuwaadhibu mifumo ya sauti ya juu ya 'tokeni-kukuza'. Zaidi ya hayo, makampuni yote mawili yanaajiri vipaji katika nyimbo za msingi za kuanzia na kuzindua programu-jalizi maalum za tasnia, na kuunda ushindani wa moja kwa moja na wateja wao. Hatari ya kusimamishwa kwa ufikiaji, kama inavyoonekana kwenye Cursor baada ya kununuliwa na SpaceX, inawapa motisha zaidi wanaoanzisha kutafuta uhuru wa mfano.

Licha ya mabadiliko hayo, wanaoanzisha wengi hawatarajii kuachana kabisa na OpenAI na Anthropic. Harvey bado anategemea Anthropic Opus ya Claude kwa kazi ngumu, inayoonyesha mkakati mseto wa matumizi. Changamoto zimesalia, ikiwa ni pamoja na gharama kubwa za talanta kwa wahandisi wa kusawazisha vyema, hitaji la data ya umiliki na gharama kubwa za miundombinu ya kudhibiti miundo ya uzani huria.

Maelezo ya chanzo: eu.36kr.com โ†—

Kwa nini ni muhimu

Mwenendo huu unaashiria mabadiliko ya kimuundo katika mienendo ya gharama ya tasnia ya AI, kwani kampuni za safu-matumizi zinatafuta kupunguza utegemezi wa API za wamiliki wa gharama kubwa. Kwa OpenAI na Anthropic, ambazo zinajitayarisha kwa IPO, utiririshaji wa wateja wa biashara hadi miundo ya uzani huria unaweza kuharibu njia zao kuu za mapato. Hatua hiyo pia inaangazia uwezekano unaokua wa miundo ya programu huria kama njia mbadala ya gharama nafuu, inayoweza kuunda upya mazingira shindani na kuwalazimisha watoa huduma za kielelezo kurekebisha mikakati yao ya bei na biashara ili kuhifadhi wateja wa biashara.

Kupitishwa kwa miundo ya uzani huria na waanzishaji wakuu wa AI kunawakilisha hatua muhimu ya kuokoa gharama ambayo inaweza kubadilisha mienendo ya mapato ya OpenAI na Anthropic, haswa wanapojiandaa kwa IPO. Mabadiliko haya yanaweza kulazimisha watoa huduma wa miundo kutafakari upya mikakati yao ya bei na matoleo ya biashara ili kudumisha uaminifu kwa wateja.

Utendaji bora wa miundo ya programu huria, kama vile Kimi K3 ya Moonshot AI, inazifanya kuwa mbadala bora kwa API za wamiliki kwa matukio mengi ya utumiaji. Maendeleo haya yanaweza kuharakisha uimarishaji wa demokrasia ya uwezo wa AI na kupunguza kizuizi cha kuingia kwa maombi mapya ya AI, kukuza uvumbuzi katika sekta kama vile sheria, afya, na fedha.

Hali hiyo pia inaangazia umuhimu unaokua wa data na miundombinu katika ukuzaji wa AI. Waanzishaji lazima wawekeze katika data ya umiliki na rasilimali za kompyuta ili kutoa mafunzo kwa miundo bora, ambayo inaweza kuunda fursa mpya kwa watoa huduma za data na kampuni za miundombinu ya mtandao huku ikiibua changamoto kwa kampuni ndogo zilizo na rasilimali chache.

Interactive Mechanism

Mbinu shirikishi: Jinsi Inavyofanya Kazi Kweli

Chunguza teknolojia msingi nyuma ya ukuzaji huu kwa maingiliano.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3Bโ€“8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
Ukaguzi wa Dhana ya Kuingiliana+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Nini cha kutazama baadaye

Fuatilia utendaji wa kifedha wa OpenAI na Anthropic wanapokaribia IPO zao, haswa mabadiliko yoyote ya bei ya API au mikakati ya kuhifadhi biashara. Fuatilia viwango vya kupitishwa kwa miundo ya uzani huria kati ya programu kuu za AI zinazoanza na uundaji wa miundo mipya inayomilikiwa kibinafsi katika sekta kama vile huduma za afya, fedha na huduma za kisheria. Pia, angalia athari za talanta na gharama za miundombinu juu ya uwezekano wa mifano ya mafunzo ya kibinafsi kwa wanaoanza.

Tazama mabadiliko yoyote katika mikataba ya bei ya API ya OpenAI na Anthropic ya API au biashara ili kukabiliana na ongezeko la uidhinishaji wa miundo ya uzani huria. Uwezo wao wa kuhifadhi wateja wa biashara utakuwa muhimu kwa tathmini zao za IPO na uendelevu wa muda mrefu.

Fuatilia utendakazi na utumiaji wa miundo mipya inayomilikiwa kibinafsi kutoka kwa wanaoanza kama vile Harvey, Abridge, na Decagon. Mafanikio katika maeneo haya yanaweza kuthibitisha mbinu ya programu huria na kuhimiza uhamaji zaidi kutoka kwa API za umiliki.

Angalia athari za talanta na gharama za miundombinu juu ya uwezekano wa mifano ya mafunzo ya kibinafsi. Iwapo vizuizi hivi vitaendelea kuwa juu, wanaoanzisha biashara ndogo zaidi wanaweza kuendelea kutegemea mchanganyiko wa miundo huria na ya chanzo funge, huku kampuni kubwa zaidi zikijitolea kikamilifu kusuluhisha umiliki wa kibinafsi.

Miongozo & maswali yanayohusiana

Mifano ya AI ImefafanuliwaMaadili ya AIMustakabali wa AIJaribu unachojua - jaribu maswali ya AI bila malipoTafuta istilahi ya AI katika faharasa yetu
Je, umepata hii kuwa muhimu?