llama.cpp 0.4.0 ለአዳዲስ AI ሞዴሎች እና የቪዲዮ ግብአት ድጋፍን ይጨምራል

ምን ተፈጠረ

llama.cpp በGitHub ላይ በሴፕቴምበር 4 ላይ 0.4.0 ን አውጥቷል። ልቀቱ ለQwen3.8-Flash-ቀጣይ፣ NVIDIA Nemotron-3-Puzzle-75B-A9B፣ DSpark ለ Nemotron 3.5፣ nanbeige፣ እና2. DeepSeek-V4-ፍላሽ-ቪዥን-ኤክስፕ. እንዲሁም የቪዲዮ-ግቤት መለኪያዎችን፣ በ-slot አገልጋይ አውድ ገደቦችን፣ ሰነፍ የ tensor ንባብ፣ የባለሞያ መስመር ለውጦችን፣ የKV-cache ማሻሻያዎችን እና በርካታ የጀርባ ማሻሻያዎችን ይጨምራል። ልቀቱ ggml ከ 0.22.0 ወደ 0.23.0 ያዘምናል። ፕሮጀክቱ ስሪቱ ትንሽ ብልጭታ ትኩረትን፣ ያልተመሳሰለ አፈፃፀም እና ምደባ-ጥገኛ ኤፒአይዎችን፣ RPC ክስተት እና አሲኒክ ኤፒአይዎችን እና የApple RDMA ትራንስፖርት ድጋፍን ይጨምራል ብሏል። ገጹ b10809 ተብሎ የሚጠራውን የማታ ግንባታ ይዘረዝራል። የታሸገ-ሁለትዮሽ መገኘትን፣ የመጫኛ መስፈርቶችን፣ የሞዴል-ክብደት ስርጭትን ወይም ዋጋን አይመዘግብም።

የGitHub መልቀቂያ ገጽ v0.4.0 እንደ የቅርብ ጊዜ የተለቀቀው እና የሴፕቴምበር 4ን የህትመት ጊዜ 19፡56 ይመዘግባል፣ በቀረበው ጽሑፍ ውስጥ የሰዓት ሰቅን ሳይገልጽ። ልቀቱ እንደ llama_lazy_mode፣ የኳንትራይዘር ቋት መጠን መቆጣጠሪያዎች፣ የዘመኑ ክፍለ-ጊዜ እና የግዛት ስሪቶች እና አዲስ የመልቲሞዳል ማስመሰያ ረዳቶችን ያሉ የኤፒአይ ለውጦችን ያካትታል።

የሞዴል እና ዋና ለውጦች የመነሻ Qwen3.8-Flash-ቀጣይ የስነ-ህንጻ ድጋፍን፣ NVIDIA Nemotron-3-Puzzle-75B-A9B ድጋፍን፣ የ DSpark ድጋፍ ለ Nemotron 3.5፣ nanbeige4.2-3B ድጋፍ፣ ሰነፍ tensor ንባብ፣ በንብርብር የባለሙያዎች ታሪክ ማሻሻያ፣ n-የቪኦግራም የተጠበቀ ታሪክ በሞዴል ጭነት ወቅት ከ RAM ከፍተኛ ደረጃዎች ጋር።

የመልቲሞዳል እና የአገልጋይ ለውጦች DeepSeek-V4-Flash-Vision-Exp ድጋፍን፣የቪዲዮ የትዕዛዝ መስመር አማራጮችን፣የቦታ አቀማመጥ ገደቦችን፣የውሂብ ዩአርኤሎችን ለመገናኛ ብዙሃን፣የምክንያት ውፅዓትን በነባሪነት ማቆየት እና አስቀድሞ የተሞላ የረዳት መሳሪያ ጥሪዎችን አለመቀበልን ያካትታሉ። ዩአይ በተጨማሪም የመሳሪያ ፖሊሲ እና የቅንጅቶች ባህሪን ይለውጣል፣ ነገር ግን ምንጩ የተጠቃሚ ጉዲፈቻ ወይም የአፈጻጸም ውሂብ አይሰጥም።

የምንጭ ዝርዝሮች: github.com ↗

ለምን አስፈላጊ ነው።

ይህ AI ኢንፈረንስ እና መልቲሞዳል አፕሊኬሽኖችን በሚገነቡ ገንቢዎች ለሚጠቀሙት የክፍት ምንጭ አሂድ ጊዜ ትልቅ ዝማኔ ነው። የተስፋፋው የሞዴል ሽፋን በllama.cpp ላይ በተመሰረቱ ስርዓቶች ውስጥ በቅርብ ጊዜ የተለቀቁትን ሞዴሎች እንዲፈተሽ ሊያደርግ ይችላል፣የቪዲዮ-ግቤት ድጋፍ ግን ስርአቶቹ ሊያስኬዷቸው የሚችሉትን ሚዲያዎች ያሰፋል። ምንጩ አፈጻጸምን እና ከማስታወስ ጋር የተያያዘ ስራን ይገልፃል፣ ነገር ግን ምንም ገለልተኛ መመዘኛዎችን አይሰጥም፣ ስለዚህ ተግባራዊ ጥቅማጥቅሞች በሃርድዌር፣ በሞዴል ቅርጸቶች እና በማሰማራት ውቅር ላይ ይመሰረታል።

ልቀቱ የመጀመሪያ Qwen3.8-ፍላሽ-ቀጣይ እና የ Nemotron-3-እንቆቅልሽ ድጋፍን ጨምሮ በርካታ አዳዲስ የሞዴል አርክቴክቸርዎችን በስፋት ጥቅም ላይ ከዋለ የመረጃ ኮድ ቤዝ ጋር ያገናኛል። ያ በእነዚያ ሞዴሎች ለሚሞክሩ ገንቢዎች የውህደት ስራን ሊቀንስ ይችላል፣ ምንም እንኳን ምንጩ በሁሉም መድረክ ወይም ውቅረት ላይ ተኳሃኝነትን ባያስቀምጥም።

የ ggml ዝመና ለትናንሽ ትኩረት መሠረተ ልማት ያክላል፣ ያልተመሳሰለ የጀርባ አጀማመር፣ የርቀት አሰራር ጥሪ ክስተቶች እና Apple RDMA። እነዚህ ለውጦች እነዚያን ልዩ የጀርባ ማከያዎች ሊጠቀሙ ለሚችሉ ማሰማራቶች ጠቃሚ ሊሆኑ ይችላሉ፣ ነገር ግን የሚለቀቅበት ገጽ የቆይታ ጊዜን፣ ውፅዓትን፣ የማስታወስ አጠቃቀምን እና የአስተማማኝነት ማሻሻያዎችን አይለካም።

የቪዲዮ መለኪያዎች፣ ዳታ-ዩአርኤል ለመገናኛ ብዙሃን ድጋፍ እና የመልቲሞዳል ቅድመ-ሂደት ለውጦች ቪዲዮ እና ሌሎች ሚዲያዎችን ለሚይዙ መተግበሪያዎች የበለጠ ተጨባጭ መንገድ ይሰጣሉ። ምንጩ እነዚህ ችሎታዎች በታሸጉ ግንባታዎች ውስጥ ወይም በምን ዓይነት ሞዴል-ተኮር ገደቦች ውስጥ መኖራቸውን አይገልጽም።

ቀጥሎ ምን እንደሚታይ

ተከታይ ልቀቶች፣ ከኋላ-ተኮር ሙከራዎች እና ሰነዶች አዲሱ ሞዴል እና ቪዲዮ ባህሪያት በሚደገፉ ሃርድዌር ውስጥ እንዴት እንደሚታዩ ማብራራት አለባቸው። በጣም አፋጣኝ አለመረጋጋት የመጀመርያው Qwen3.8-Flash-ቀጣይ ትግበራ ቃል የተገባውን የማሻሻያ ስራ መቀበሉ እና ምን ያህል ትንሽ ትኩረት እና የማስታወስ ለውጦች እውነተኛ የስራ ጫናዎችን እንደሚያሻሽሉ ነው።

ለ Qwen3.8-Flash-ቀጣይ ማሻሻያ ዝማኔዎችን እና ተጨማሪ ጥገናዎችን ለአዲስ የተጨመሩ የመልቲሞዳል ሞዴል መንገዶች ይመልከቱ።

የመልቀቂያ ገጹን ትግበራ የይገባኛል ጥያቄዎች ከፍጥነት፣ የማህደረ ትውስታ አጠቃቀም እና ተመሳሳይነት ከሚለካው ትርፍ የሚለዩ የቤንችማርክ ውጤቶችን ይመልከቱ።

በታሸገ ተደራሽነት፣ የሚደገፉ የሞዴል ፋይሎች፣ የሃርድዌር መስፈርቶች እና የምርት ዝግጁነት ሰነዶችን ይመልከቱ። እነዚያ ዝርዝሮች በመልቀቂያ ገጹ አይቀርቡም።

ተዛማጅ መመሪያዎች እና ጥያቄዎች