Me ya faru
Aikin llama.cpp ya fitar da sigar 0.3.0 a ranar 25 ga Agusta, bisa ga shafin sakin sa na GitHub. Sabuntawa yana ƙara goyan baya ga dots3-note , gami da sabon nau'in maɓalli mai ƙima na DSA-ISWA, kuma yana ƙara hangen nesa da sarrafa sauti don wannan ƙirar. Hakanan yana gabatar da yanayin tsaga-tsaga na tensor don DeepSeek 4, yana gyara juzu'i mai yawa, kuma yana ƙara tallafin tsinkaya da yawa don GLM-4.5-Air.
Shafin GitHub yana bayyana v0.3.0 a matsayin sabon saki na ma'ajiyar jama'a llama.cpp kuma yana yin rikodin sakin a 10:22 akan Agusta 25. An gabatar da sakin a matsayin ingantaccen sigar sabuntawa maimakon ƙaramin faci. Canje-canjensa na tsakiya ya shafi yadda software ke tallafawa da aiwatar da samfuran AI, gami da sabon ƙirar multimodal, takamaiman fasalin ƙima, daidaiton tensor, da canje-canje zuwa abubuwan da sabar ke amfani da su da sauran kayan aikin. Mafi shaharar ƙarin samfurin shine dots3-note. Bayanan bayanan sakin sun ce llama.cpp yana ƙara samfurin tare da sabon nau'in maɓalli mai ƙima na DSA-ISWA. Suna lissafin tallafi daban don hangen nesa na bayanin kula da digo 3 da sauti, Hotunan Yanar Gizo ta hanyar ffmpeg, da daidaitaccen girman algorithm na matashin kai. Bayanan kula kuma sun ce an gyara lodin bidiyo lokacin da zarra na fayil ɗin moov ya bayyana a ƙarshe. Waɗannan canje-canjen suna nuna cewa aikin yana haɓaka sama da aiwatar da ƙirar rubutu zuwa mafi fa'ida na abubuwan shigar da kafofin watsa labarai, kodayake tushen bai bayyana iyawar ƙirar ko aikace-aikacen da aka yi niyya ba.
Don DeepSeek 4, sigar 0.3.0 tana ƙara yanayin tsaga tensor ta zaɓin "-sm tensor" kuma yana gyara jujjuyawar lokacin da jeri da yawa ke aiki. Sakin ya kuma bayar da rahoton gyara zuwa yaɗawar jihar tensor-raga don aiwatar da kisa-daidaitacce. Na dabam, GLM-4.5-Air yana karɓar goyan bayan tsinkaya mai yawa, yayin da bailingmoe3 ke karɓar tallafin DSpark. Waɗannan canje-canjen matakin aiwatarwa ne waɗanda ke shafar yadda ake iya aiwatar da takamaiman samfura, daidaita su, ko haɓaka su; sakin baya da'awar cewa sun inganta ingancin samfurin.
Sabuntawa kuma yana lalata bangaren ggml zuwa v0.22.0. Bayanan kula sun bayyana goyan bayan tsaga-tsaga na tensor a cikin ggml's multi-backend meta backend, ingantattun yaɗawa-jihar, tushen-aiki na ƙarfe tare da haɗawa iri ɗaya, da kuma gyara wanda ke sa ggml_clamp ya zama ingantaccen aiki mara wuri. Ƙarin canje-canje sun haɗa da sababbin ayyuka, Q2_K SYCL kernels, OpenCL cakuda-na-ƙwararrun ƙwararru, da gyare-gyare a fadin CUDA, Metal, SYCL, Vulkan, OpenCL, da WebGPU. Sabar tana samun canjin yanayi don faɗaɗa bambance-bambancen ramuka-debug, kuma mu'amalar yanar gizo ta sami damar kewayawa ta tattaunawa.
Me ya sa yake da mahimmanci
Sakin yana faɗaɗa kewayon samfuran AI da nau'ikan shigarwar da ke tallafawa ta hanyar aiwatar da buɗaɗɗen tushen da aka yi amfani da shi sosai yayin da ake magance ƙwaƙwalwar ajiya, daidaito, da al'amurran da suka shafi baya da ke cikin tafiyar da ƙira mafi girma ko ƙari. Tasirin aiki zai dogara ne akan kayan aiki, fayilolin ƙirar ƙira, ginin ginin, da takamaiman bayanan baya da aka yi amfani da su.
Muhimmancin aiki shine tarin aiwatar da tsarin buɗe tushen tushen yana ƙara goyan baya ga ƙarin bambance-bambancen gine-ginen ƙirar ƙira da hanyoyin a cikin saki iri ɗaya. Ga masu haɓakawa da masu bincike waɗanda ke amfani da llama.cpp, goyan bayan hangen nesa na dots3-note da abubuwan shigar da sauti na iya rage buƙatar kiyaye hanyoyin aiwatarwa daban don waɗannan abubuwan. Bayanan bayanan saki sun tabbatar da kasancewar goyan bayan, amma ba su tabbatar da cikakken, sauri, ko abin dogaro akan kayan aiki na musamman ba.
Rarraba tensor yana da mahimmanci saboda ya shafi yadda ake rarraba aikin ƙira ko jihar a cikin na'urori. Canje-canjen DeepSeek 4 na iya sa software ta zama mai amfani ga mutanen da ke akwai ana rarraba lissafin su a cikin na'urori da yawa, yayin da gyaran jujjuyawar zai iya zama mahimmanci ga ayyukan aiki waɗanda ke kula da jerin aiki fiye da ɗaya. Wadancan fa'idodin aiki ne masu ma'ana waɗanda aka kafa a cikin sauye-sauyen da aka lissafa, ba a auna sakamako ba: tushen yana ba da kayan aiki, ƙwaƙwalwar ajiya, latency, ko kwatancen ƙimar gazawa akan sigar 0.2.0.
Canje-canjen ggml yana faɗaɗa isar da abin da aka saki a cikin kayan baya na kayan aiki. Haɗin layi ɗaya don tushen ƙarfe na iya rinjayar lokutan ginawa, yayin da meta-backend aikin raba-jihar da gyare-gyare don CUDA, SYCL, Vulkan, OpenCL, da WebGPU suna magance layin ɗaukar hoto wanda ke haɗa samfura zuwa nau'ikan kayan aiki daban-daban. Sakin ya kuma lissafa canjin hasashen Mamba2 da aka yi niyya don aika GEMM maimakon GEMV, amma baya ƙididdige duk wani fa'idar aiki. Don haka ya kamata masu amfani su ɗauki bayanin kula a matsayin canjin aiwatarwa, ba azaman rahoton ma'auni ba.
Sakin yana da mahimmanci ga yanayin yanayin AI mai faɗi saboda tallafin ƙirar ƙirƙira ba ta masu ƙirƙira ƙirar ƙira ba ne kawai har ma ta hanyar ƙirar software wanda ke sa samfuran aiwatarwa akan tsarin daban-daban. Ƙara samfuri ko tsari na iya yin tasiri akan ayyukan da suke da amfani don tura gida ko na musamman. Har yanzu, abubuwan da ba a sani ba masu ma'ana sun kasance: tushen ba ya bayyana lasisi ko sharuɗɗan rarraba don dige3-bayanin kula, ma'aunin ƙirar da ake buƙata, tsarin aiki mai goyan baya, mafi ƙarancin kayan masarufi, goyan bayan tsarin sauti da bidiyo fiye da gyare-gyaren da aka jera, ko duk fasalulluka suna samuwa a cikin kadarar dare.
Ingantacciyar hanyar sadarwa: Yadda A zahiri yake Aiki
Bincika fasahar da ke bayan wannan ci gaban ta hanyar mu'amala.
Which component of an AI application is the machine-learning model itself?
Abin kallo na gaba
Bayanan sanarwa ba sa samar da maƙasudai masu zaman kansu, buƙatun kayan aiki, matrix masu dacewa, ko shaidar ƙaddamar da samarwa. Maɓalli mai mahimmanci shine ko masu amfani suna ba da rahoton ingantaccen aiki don hangen nesa na dots3-note da hanyoyin sauti, DeepSeek 4 tensor rarrabuwa a cikin na'urori, da sabunta CUDA, Metal, SYCL, Vulkan, OpenCL, da WebGPU baya.
Wurin tabbatarwa na farko shine ɗaukar hoto na aiki don bayanin kula 3. Sakin yana bayanin hangen nesa na suna da goyon bayan odiyo, gyare-gyaren WebP, gyaran gyare-gyaren ɗora bidiyo, da sake girman ɗabi'a, amma ba su haɗa da misalan gwaji ko allunan shigar da tallafi ba. Gwaji mai zaman kansa yakamata ya tabbatar da waɗanne nau'ikan tsarin aiki, yadda aiwatarwa ke shafar sakamako, ko za'a iya haɗa sauti da hangen nesa, da kuma ko ɗabi'a ta yi daidai da goyan baya. Har sai lokacin, ya kamata a fahimci "tallafi" a matsayin da'awar aiwatar da matakin-aiki maimakon tabbacin shirye-shiryen samarwa.
Batu na biyu shine tasirin tasirin DeepSeek 4 na tsagawar tensor. Masu amfani za su buƙaci tantance ko "-sm tensor" yana aiki a cikin takamaiman na'urorin su, yadda ƙwaƙwalwar ajiya ke rarraba, da kuma ko juzu'i mai yawa ya kasance abin dogaro a ƙarƙashin dogon lokaci ko aiki na lokaci guda. Tushen yana ba da jerin kayan masarufi, bayanan aiki, ko bincike na kuskure. Rahotanni daga masu kula da masu amfani za su kasance masu amfani musamman saboda halayen tensor-parallel na iya bambanta tare da direbobi, fasalulluka da aka haɗa, haɗin na'ura, da ƙirar ƙira.
Yanki na uku shine madaidaicin baya. Sabunta sunaye na sakin suna don CUDA, Metal, SYCL, Vulkan, OpenCL, da WebGPU, amma baya cewa kowane sabon ƙira ko aiki yana aiki daidai akan kowane bangon baya. Canjin da kansa ya lura cewa gwajin gine-ginen dots3-note an kashe shi don WebGPU, wanda shine tabbataccen dalili don guje wa ɗaukar cikakken ɗaukar hoto na baya. Takaddun bin diddigin ko sakamakon gwaji ya kamata su fayyace abin da aka kunna, gwaji, iyakance, ko babu shi.
A ƙarshe, fitowar aikin na gaba zai nuna ko waɗannan canje-canjen sun tabbata. Abubuwan da suka dace a saka idanu sun haɗa da gyare-gyare don ɗora bayanan bayanin kula da dots3 da preprocessing kafofin watsa labarai, koma baya da ke tattare da tsinkayar alama mai yawa ko haɗawa, ƙarin canje-canje na daidaici na DeepSeek 4, da sabuntawa zuwa dabaru masu dacewa da ramin uwar garken. Sakin ya haɗa da kadarar gini na dare, amma tushen bai bayyana marufinsa ba, sake fasalinsa, ko alaƙa da ingantaccen gini. Babu wata shaida mai zaman kanta a cikin kayan da aka kawo da ke tabbatar da ɗauka, ma'aunin tura aiki, ko tasirin mai amfani.