Maxaa dhacay
Mashruuca llama.cpp wuxuu sii daayay nooca 0.3.0 Agoosto 25, sida ku cad bogga sii deynta GitHub. Cusboonaysiinta waxay ku dartay taageerada moodeelka-dhibcaha-3-note multimodal, oo ay ku jiraan nooc cusub oo DSA-ISWA ah oo qiimo-fure ah, wuxuuna ku darayaa aragga iyo maaraynta maqalka ee moodeelkaas. Waxa kale oo ay soo bandhigaysaa qaabka tensor-kala qaybsanaanta ee DeepSeek 4, hagaajinaysaa dib-u-celinta isku-xiga badan, waxayna ku daraysaa taageerada saadaasha calaamadaha badan ee GLM-4.5-Air.
Bogga GitHub waxa uu u aqoonsanayaa v0.3.0 sidii sii dayntii ugu dambaysay ee kaydka llama.cpp ee dadwaynaha waxana uu diiwaangeliyaa sii daynta 10:22 Agoosto 25. Siidaynta waxa loo soo bandhigay sidii nooc cusub oo la taaban karo halkii ay ka ahaan lahayd balastar yar oo dayactir ah. Isbeddelkeeda dhexe waxay ka welwelsan tahay sida software-ku u taageero oo u fuliyo moodooyinka AI, oo ay ku jiraan moodal cusub oo multimodal ah, astaamo u gaar ah moodeel, isbarbardhigga tensor, iyo isbeddelada qaybaha la wadaago ee loo isticmaalo serferka iyo qalabyada kale. Qaabka ugu caansan ee lagu daro waa dhibco3-note. Qoraalada sii deynta ayaa sheegaya in llama.cpp ay ku darayso moodelka oo ay la socoto nooc cusub oo DSA-ISWA ah oo ah kaydka qiimaha muhiimka ah. Waxay si gooni gooni ah u taxaan taageerada aragtida dots3-note iyo maqal, sawirada WebP iyada oo loo marayo ffmpeg, iyo algorithm cabbirka saxda ah ee Barkin. Qoraalada ayaa sidoo kale sheegaya in rarka fiidyowga la hagaajiyay marka feylka moov atom uu soo muuqdo dhamaadka. Isbeddelladani waxay muujinayaan in mashruucu uu dhaafsiisan yahay qaab-fulinta moodeel-ku-jeedka qoraalka ilaa tiro ballaadhan oo agab-warbaahineed ah, in kasta oo isha aanu qeexin awoodda moodeelka ama codsiyada loogu talagalay.
DeepSeek 4, nooca 0.3.0 wuxuu ku darayaa qaabka tensor-kala qaybsanaanta iyada oo loo marayo ikhtiyaarka "-sm tensor" wuxuuna hagaajiyaa dib-u-celinta marka taxane badan ay firfircoon yihiin. Siideynta ayaa sidoo kale ka warbixisa sixitaanka faafinta gobolka tensor-kala qaybsanaan ee fulinta fulinta isbarbar-dhigga. Si gooni ah, GLM-4.5-Air waxay heshaa taageerada saadaasha calaamado badan, halka bailingmoe3 ay hesho taageerada DSpark. Kuwani waa isbeddelo heer-fulin ah oo saameeya sida noocyo gaar ah loo fulin karo, barbar-dhigi karo, ama loo dardargelin karo; sii dayntu ma sheeganayso inay hagaajinayaan tayada moodeelka.
Cusboonaysiinta ayaa sidoo kale ku garaacday qaybta ggml v0.22.0. Qoraaladu waxay qeexayaan taageerada tensor-kala qaybsanaanta ee ggml's dhabarka dambe ee dhabarka badan, wanaajinta faafinta gobolka-qaybsan, hawl-gal kasta ilo bir ah oo isku mid ah, iyo sixid ka dhigaysa ggml_clamp hawlgal sax ah oo aan meel ku jirin. Isbeddellada dheeraadka ah waxay daboolayaan hawlgallada cusub, Q2_K SYCL kernels, Fudud-fudud khubarada isku-dhafka ah ee furan, iyo hagaajinta guud ahaan CUDA, Birta, SYCL, Vulkan, OpenCL, iyo WebGPU. Seerfarku waxa uu helayaa doorsoome deegaan si uu u ballaadhiyo kala duwanaanshaha cilladaha booska, iyo interface-ka shabakadu waxa uu kasbaday navigation wada sheekaysi.
Faahfaahinta isha: github.com ↗
Maxay muhiim u tahay
Siideynta ayaa ballaarinaysa noocyada AI ee moodooyinka iyo noocyada wax gelinta ee ay taageerayaan hirgelinta il furan oo si ballaaran loo isticmaalo iyada oo wax laga qabanayo xusuusta, isbarbardhigga, iyo arrimaha dhabarka ee ku lug leh socodsiinta moodooyinka waaweyn ama ka adag. Saamaynta la taaban karo waxay ku xirnaan doontaa qalabka, faylalka moodeelka, qaabeynta dhismaha, iyo dhabarka gaarka ah ee la isticmaalo.
Muhiimadda la taaban karo ayaa ah in xirmo-fulinta moodeelka il-furan ay ku kordhinayso taageerada qaab-dhismeedka moodeelka iyo qaababka kala duwan ee isla siideynta. Horumarinta iyo cilmi-baarayaasha adeegsada llama.cpp, taageerada aragtida dots3-note iyo gelinta maqalka waxay yarayn kartaa baahida loo qabo in la ilaaliyo dariiqyo fulineed oo gaar ah agabyadaas. Qoraalada la sii daayo waxay dejiyaan joogitaanka taageerada, laakiin ma sheegaan inta ay u dhammaystiran tahay, degdegga, ama la isku halayn karo ee ay ugu xidhan tahay qalab gaar ah.
Kala qaybsanaanta teensorku waa muhiim sababtoo ah waxay khusaysaa sida culayska shaqada ee moodeelka ama gobolka loogu qaybiyay agabka. Isbedelada DeepSeek 4 waxay ka dhigi karaan software-ka mid loo isticmaali karo dadka xisaabtooda la heli karo loo qaybiyay qalabyo badan, halka hagaajinta dib-u-celinta ay muhiim u tahay culeyska shaqada ee ilaalinaya in ka badan hal taxane oo firfircoon. Kuwaasi waa faa'iidooyin hawleed macquul ah oo ku salaysan isbeddellada liiska ku jira, ee aan la cabbirin natiijooyinka: isha wax soo saar la'aan, xusuusta, daahitaanka, ama isbarbardhigga heerka guul-darrada ee nooca 0.2.0.
Isbeddelka ggml wuxuu ballaariyaa gaaritaanka sii-deynta dhammaan qalabka gadaale ee gadaale. Isku-dhafka isbarbar-dhigga ee ilaha birta ayaa laga yaabaa inay saameyn ku yeelato waqtiyada dhismaha, halka meta-backend shaqada kala qaybsanaanta gobolka iyo hagaajinta CUDA, SYCL, Vulkan, OpenCL, iyo WebGPU ay wax ka qabtaan lakabka la qaadi karo ee isku xira moodooyinka iyo noocyada kala duwan ee qalabka. Siideynta ayaa sidoo kale taxeysa isbeddelka saadaalinta Mamba2 ee loogu talagalay in lagu diro GEMM halkii GEMV, laakiin ma qiyaaseyso wax faa'iido waxqabad ah. Isticmaalayaashu waa inay u daaweeyaan qoraallada sidii isbeddel fulineed, ee ma aha warbixin cabbir.
Sii dayntu waxay khusaysaa nidaamka deegaanka ee ballaaran ee AI sababtoo ah taageerada moodeelka ma qaabaysan oo keliya hal-abuurayaasha moodelka laakiin sidoo kale lakabka softiweerka ah ee ka dhigaya moodooyinka lagu fulin karo nidaamyo kala duwan. Ku darida nooc ama qaab ayaa saameyn ku yeelan karta mashaariicda wax ku oolka ah ee loo dirayo gudaha ama kuwa gaarka ah. Weli, waxyaabo aan la garanayn oo macne leh ayaa hadhsan: isha ma sheegayso shatiga ama shuruudaha qaybinta dhibcaha3-note, miisaanka moodeelka loo baahan yahay, nidaamyada hawlgalka ee la taageeray, qalabka ugu yar, qaababka maqalka iyo muuqaalka ee la taageeray ee ka baxsan hagaajinta liiska, ama haddii dhammaan sifooyinka lagu heli karo hantida habeenkii.
Farsamaynta Is-dhexgalka: Sida Dhabta Ay U Shaqeyso
U baadh tignoolajiyada hoose ee ka dambeeya horumarkan si isdhexgal leh.
Which component of an AI application is the machine-learning model itself?
Maxaa la daawan doona xiga
Qoraalada siideynta ma bixiyaan jaangooyooyin madax-banaan, shuruudaha qalabka, jaantusyada ku habboon, ama caddaynta hawlgelinta wax soo saarka. Dabagalka muhiimka ah waa haddii isticmaalayaashu ay soo sheegaan waxqabad la isku halayn karo oo loogu talagalay dots3-note aragtidiisa iyo waddooyinka maqalka, DeepSeek 4 tensor kala qaybinta aaladaha, iyo CUDA, Birta, SYCL, Vulkan, OpenCL, iyo WebGPU dib-u-celinta.
Qodobka ugu horreeya ee xaqiijinta waa daboolka shaqaynta ee dhibcaha3-note. Siideynta waxa ay qortaa magaca aragga iyo taageerada maqalka, dejinta koodka WebP, hagaajinta rarka fiidyowga, iyo wax ka beddelka habdhaqanka, laakiin kuma jiraan tusaalayaal imtixaan ama jaantusyo la taageeray. Tijaabada madax-banaani waa inay caddeeyaan qaababka u shaqeeya, sida ka-hortagista u saamaynayso natiijooyinka, haddii maqalka iyo aragga la isku dari karo, iyo haddii hab-dhaqanku uu yahay mid joogto ah dhammaan garabyada la taageeray. Ilaa markaas, "taageerada" waa in loo fahmo inay tahay dacwad fulin heer mashruuc ah halkii caddaynta u diyaarsanaanta wax soo saarka.
Arrinka labaad waa saamaynta dhabta ah ee adduunka ee DeepSeek 4 tensor kala goynta. Isticmaalayaashu waxay u baahan doonaan inay go'aamiyaan in "-sm tensor" uu ka shaqeeyo qalabkooda gaarka ah, sida xusuusta loo qaybiyo, iyo in dib-u-celinta isku-xiga ee isku xigxiga ah ay weli tahay mid lagu kalsoonaan karo oo hoos yimaada culeysyo shaqo oo dheer ama isku xigta. Isha ma bixiso liiska qalabka, xogta waxqabadka, ama falanqaynta khaladka. Warbixinada ka soo baxa isticmaalayaasha iyo isticmaalayaasha ayaa si gaar ah faa'iido u yeelan doona sababtoo ah dabeecadda isbarbar-dhigga waxay ku kala duwanaan kartaa darawaliinta, sifooyin la soo ururiyay, isku darka aaladaha, iyo qaabeynta moodeelka.
Meesha saddexaad waa sinnaanta dhabarka. Magacyada siideynta ayaa u cusbooneysiiyay CUDA, Metal, SYCL, Vulkan, OpenCL, iyo WebGPU, laakiin ma dhahayso nooc kasta ama hawlgal cusub ayaa si siman uga shaqeeya dhabarka dambe. Beddelka laftiisu wuxuu xusayaa in dhibcaha 3-note tijaabada qaabdhismeedku uu naafo u ahaa WebGPU, taas oo ah sabab la taaban karo oo looga fogaanayo in la qaato caymis dhammaystiran oo is-tallaab ah. Dukumeenti la-socod ama natiijooyinka imtixaanku waa inay caddeeyaan waxa la awooday, tijaabo ah, xaddidan, ama aan la heli karin.
Ugu dambeyntii, mashruucyada soo baxaya ee soo socda ayaa muujin doona haddii isbeddelladani ay yihiin kuwo deggan. Waxyaabaha mudan in la kormeero waxaa ka mid ah hagaajinta dhibcooyinka 3-note iyo diyaarinta warbaahinta, dib-u-celinta ku lug leh saadaalinta calaamado badan ama ku-xirnaanta, dheeraad ah DeepSeek 4 isbeddellada isbarbardhigga, iyo cusbooneysiinta macquulnimada ku habboon ee server-ka. Siideynta waxaa ku jira hanti dhisme habeenle ah, laakiin isha ma sharraxayso baakadeeda, soo saarideeda, ama xiriirka dhismooyin deggan. Ma jiro caddayn madax-bannaan oo ku jirta walxaha la keenay oo xaqiijinaya korsashada, cabbirka geynta, ama saamaynta isticmaale.