Maxaa dhacay
llama.cpp ayaa sii daayay nooca 0.4.0 ee GitHub Sebtembar 4. Siideynta ayaa ku dareysa taageerada bilowga ah ee Qwen3.8-Flash-Next, NVIDIA Nemotron-3-Puzzle-75B-A9B, DSpark ee Nemotron 3.5, nanbeige, iyo 2B4. DeepSeek-V4-Flash-Vision-Exp. Waxa kale oo ay ku darsataa cabbiraadaha fiidyowga-gelinta, xadka macnaha guud ee server-ka-slot, akhriska tensor-ka caajiska ah, isbeddelada habaynta khabiirka, hagaajinta-KV-cache, iyo hagaajinno badan oo gadaal ah. Siideynta ayaa cusbooneysiisay ggml laga bilaabo 0.22.0 ilaa 0.23.0. Mashruucu wuxuu sheegay in noocaas uu ku darayo feejignaan yar, fulinta asynchronous iyo APIs-ku tiirsanaanta qoondaynta, dhacdada RPC iyo async APIs, iyo Apple RDMA taageerada gaadiidka. Boggu wuxuu taxayaa dhismo habeenle ah oo loo aqoonsaday inuu yahay b10809. Ma diiwaangeliso helitaanka baakad-binary, shuruudaha rakibaadda, qaybinta qaabka-miisaanka, ama qiimaha.
GitHub bogga siideynta ayaa tilmaamaysa v0.4.0 sidii siideyntii ugu dambeysay oo waxay diiwaangelisaa Sebtembar 4 wakhtiga daabacaadda 19:56, iyada oo aan lagu sheegin aagga wakhtiga qoraalka la keenay. Siideynta waxaa ka mid ah isbeddelada API sida llama_lazy_mode, kontaroolada cabbirka quantizer-ka, kalfadhiga la cusboonaysiiyay iyo noocyada gobolka, iyo caawiyayaasha calaamadaynta hab-dhismeedka cusub.
Moodeelka iyo isbeddellada asaasiga ah waxaa ka mid ah taageerada naqshadeynta bilowga ah ee Qwen3.8-Flash-Xigta, taageerada NVIDIA Nemotron-3-Puzzle-75B-A9B, Taageerada DSpark ee Nemotron 3.5, taageerada nanbeige4.2-3B, akhriska caajiska ah ee akhriska, hagaajinta khibradda lakabka kasta, nasasho muuqaal ah oo khibrad leh. ka dhanka ah ugu sarreysa RAM inta lagu guda jiro loading model.
Multimodal-ka iyo isbeddelada server-ka waxaa ka mid ah taageerada DeepSeek-V4-Flash-Vision-Exp, xulashooyinka khadka-fiidiyowga ah, xaddidaadda macnaha guud, URL-yada xogta ee warbaahinta, ilaalinta asalka ah ee soo saarista sababaynta, iyo diidmada wicitaannada aaladaha kaaliyaha ee horay loo buuxiyay. UI sidoo kale waxay beddeshaa nidaamka-qalabka iyo hab-dhaqanka dejinta, laakiin isha ma bixiso korsashada isticmaale ama xogta waxqabadka.
Faahfaahinta isha: github.com ↗
Maxay muhiim u tahay
Kani waa cusboonaysiin la taaban karo oo ku saabsan wakhtiga il furan ee ay adeegsadaan horumariyayaasha dhisaya fikradda AI iyo codsiyada badan. Daboolista moodeelkeeda oo la ballaariyay ayaa ka dhigi kara moodallo dhowaan la sii daayay oo lagu tijaabin karo nidaamyada ku saleysan llama.cpp, halka taageerada soo-gelinta fiidiyowga ay ballaarineyso noocyada warbaahinta nidaamyadaas ay farsameyn karaan. Isha ayaa qeexaysa waxqabadka iyo shaqada la xiriirta xusuusta, laakiin ma bixiso jaangooyooyin madax-bannaan, markaa faa'iidooyinka la taaban karo waxay ku xirnaan doonaan qalabka, qaababka moodeelka, iyo qaabeynta geynta.
Siideynta ayaa isku xirta dhowr qaab-dhismeed moodeel cusub oo si weyn loo isticmaalo, oo ay ku jiraan bilowga Qwen3.8-Flash-Next iyo taageerada Nemotron-3-Puzzle. Taasi waxay yarayn kartaa shaqada isdhexgalka ee horumariyayaasha tijaabinaya moodooyinkaas, in kasta oo isha aysan dejin iswaafajinta madal kasta ama qaabayn kasta.
Cusboonaysiinta ggml waxay ku darsataa kaabayaal fiiro gaar ah leh, dhabarka dambe ee aan iswada lahayn, dhacdooyinka wicitaanka habraaca fog, iyo Apple RDMA. Isbeddelladani waxay muhiim u yihiin hawlgelinta kuwaas oo isticmaali kara dhabarka dambe ee gaarka ah, laakiin bogga siideynta ma qiyaaso daahitaanka, soo-saarka, isticmaalka xusuusta, ama hagaajinta isku halaynta.
Qiyaasaha fiidyaha, xogta-URL-taageerada warbaahinta, iyo isbadelada ka-horjeedka hababka kala duwan ayaa bixiya dariiq la taaban karo oo loogu talagalay codsiyada maaraynta fiidyaha iyo warbaahinta kale. Isha ma sheegayso in awoodahaan lagu heli karo dhismo baakadaysan ama hoos noocee xaddidaadaha gaarka ah.
Farsamaynta Is-dhexgalka: Sida Dhabta Ay U Shaqeyso
U baadh tignoolajiyada hoose ee ka dambeeya horumarkan si isdhexgal leh.
Which component of an AI application is the machine-learning model itself?
Maxaa la daawan doona xiga
Siideynta dabagalka, imtixaanada gaarka ah ee dhabarka dambe, iyo dukumeentiyadu waa inay caddeeyaan sida qaabka cusub iyo muuqaalada muuqaalku u dhaqmaan qalabka la taageeray. Hubanti la'aanta ugu dhaqsaha badan ayaa ah in hirgelinta Qwen3.8-Flash-Next ay hesho shaqada hagaajinta ee la ballanqaaday iyo inta fiiro gaar ah iyo isbeddellada xusuusta ay hagaajiyaan culeyska shaqada ee dhabta ah.
U fiirso cusboonaysiinta hagaajinta ee Qwen3.8-Flash- Xiga iyo hagaajin dheeraad ah oo loogu talagalay waddooyinka moodeelka badan ee cusub ee lagu daray.
U fiirso natiijooyinka cabbiraadda ee kala saaraya sheegashooyinka fulinta bogga siideynta iyo faa'iidooyinka la cabbiray ee xawaaraha, isticmaalka xusuusta, iyo lacagta isku midka ah.
U fiirso dukumeenti ku saabsan gelitaanka baakadaysan, faylalka moodeelka ee la taageeray, shuruudaha qalabka, iyo u-diyaargarowga-soo-saarka. Faahfaahintaas laguma bixiyo bogga siideynta.