PrismML Bonsai 2ን ይለቀቃል፣ የታመቀ 27B ሞዴል ለሀገር ውስጥ መሳሪያዎች

ምን ተፈጠረ

PrismML Bonsai 2 27B የተጨመቀ ትልቅ የቋንቋ ሞዴል ለግል ኮምፒውተሮች እና ያለ ደመና መሠረተ ልማት ባለ ከፍተኛ ደረጃ ስማርትፎኖች ላይ እንዲሠራ ታስቦ ነበር። ሞዴሉ የሶስትዮሽ ክብደት መጭመቂያን በመጠቀም የአሊባባን Qwen3.8 27B ወደ 5.9 ጊጋባይት ይቀንሳል፣ ይህም የዋናውን የቤንችማርክ አፈጻጸም 98% ይይዛል። ክብደቶቹ በApache 2.0 ፍቃድ ስር ይገኛሉ እና NVIDIA ጂፒዩዎችን በCUDA እና Apple መሳሪያዎች በMLX በኩል ይደግፋሉ።

በካልቴክ ተመራማሪዎች የተመሰረተ እና በባባክ ሃሲቢ የሚመራው ፕሪዝም ኤም ኤል ቦንሳይ 2 27Bን ሐሙስ እለት ለቋል። ሞዴሉ የታመቀ የ Alibaba's Qwen3.8 27B ስሪት ነው፣ ወደ 5.9 ጊጋባይት በሶስተኛ የክብደት መጭመቅ የተቀነሰ፣ ይህም ባለ 16-ቢት መለኪያዎችን ወደ ሶስት እሴቶች ይቀይራል፡ አወንታዊ አንድ፣ አሉታዊ አንድ ወይም ዜሮ። ይህ ዘዴ ተጨማሪ መለኪያዎችን ያስወግዳል, ይህም ሞዴሉ በአካባቢያዊ ሃርድዌር ላይ በሚገጥምበት ጊዜ 98% የዋናውን መለኪያ አፈፃፀም እንዲይዝ ያስችለዋል.

የተለቀቀው የመጀመርያው የቦንሳይ ሞዴል ከመጋቢት ወር ጀምሮ ጉልህ የሆነ መሻሻል ያሳያል፣ ይህም 95% የቤንችማርክ አፈጻጸምን ይዞ ቆይቷል። እንደ PrismML ዘገባ፣ የመጀመሪያው ሞዴል ከ11 ሚሊዮን ጊዜ በላይ ወርዷል፣ ተጨማሪ ትናንሽ ሞዴሎች ደግሞ 2.6 ሚሊዮን ውርዶችን በማከማቸት፣ ይህም በመሣሪያ ላይ ለተመሰረተ AI ጠንካራ የገንቢ ጉዲፈቻን ያሳያል። አዲሱ ሞዴል በNVIDIA ጂፒዩዎች በCUDA እና በApple መሳሪያዎች (ማክ፣ አይፎን፣ አይፓድ) በMLX በኩል ይሰራል፣ ብጁ ዝቅተኛ ቢት ከርነሎችን በመጠቀም ውጤታማ የአካባቢ አፈፃፀምን ያረጋግጣል።

የሞዴል ክብደቶች ወዲያውኑ በ Apache 2.0 ፍቃድ ውስጥ ይገኛሉ፣ ይህም ሰፊ ውህደት እና ማሻሻያ እንዲኖር ያስችላል። ፕሪዝም ኤም ኤል በKhosla Ventures፣ Cerberus Capital እና Caltech የተደገፈ የ22.25 ሚሊዮን ዶላር ዘርን ሰብስቧል፣ ከ Ion Stoica፣ Databricks ተባባሪ መስራች ጋር፣ አማካሪ ሆኖ በማገልገል። የኩባንያው አካሄድ አነስተኛውን የፋይል መጠን ካለው ከፍተኛ አፈፃፀም ጋር ለማገናኘት በትልልቅ ሞዴሎች ውስጥ ያለውን ድግግሞሽን በመጠቀም ላይ ያተኩራል ፣ አንድ ስትራቴጂ ሃሲቢ የሞዴል መጠኖች ሲጨምሩ የበለጠ ውጤታማ እንደሚሆን ይጠቁማል።

የምንጭ ዝርዝሮች: techjuice.pk ↗

ለምን አስፈላጊ ነው።

ይህ ልቀት እንደሚያሳየው የማመዛዘን ችሎታ ያለው AI በሸማች ሃርድዌር ላይ በአካባቢው ሊሰራ እንደሚችል፣ የግላዊነት ስጋቶችን በመፍታት እና የደመና መዘግየት እና የደንበኝነት ምዝገባ ወጪዎችን ያስወግዳል። በጣም ትንሽ በሆነ የፋይል መጠን ከፍተኛ አፈጻጸምን በማሳካት፣ ፕሪዝም ኤም ኤል ከደመና-ጥገኛ AI ወደ የተከፋፈለ፣ በመሳሪያ ላይ የተመሰረተ አስተሳሰብ ሽግግርን ያሳድጋል፣ ይህም የላቀ የ AI ችሎታዎችን ያለ ትልቅ የመረጃ ማዕከል መሠረተ ልማት ተደራሽ ያደርገዋል።

የማመዛዘን ችሎታ ያለው AI በሸማች መሳሪያዎች ላይ የማሄድ ችሎታ የተጠቃሚ ውሂብ መቼም ከመሳሪያው እንደማይወጣ በማረጋገጥ ወሳኝ የሆኑ የግላዊነት ስጋቶችን ይፈታል። ይህ የደመና ስርጭትን አስፈላጊነት ያስወግዳል, መዘግየትን ይቀንሳል እና ከዳመና-ተኮር AI አገልግሎቶች ጋር የተያያዙ ቀጣይ የደንበኝነት ምዝገባ ወጪዎችን ያስወግዳል. ለገንቢዎች እና ለዋና ተጠቃሚዎች፣ ይህ ወደተከፋፈለ፣ በመሣሪያ ላይ የተመሰረተ ምክንያታዊነት ሁለቱንም ወጪ ቆጣቢ እና ግላዊ ለውጥን ይወክላል።

በ5.9ጂቢ ፋይል ውስጥ ያለው የ98% የቤንችማርክ አፈጻጸም ከፍተኛ የማቆየት ፍጥነት እንደሚያሳየው የመጨመቂያ ቴክኒኮች የትልልቅ ሞዴሎችን እውቀት በብቃት ሊጠብቁ ይችላሉ። ይህ በመሣሪያ ላይ AI ለሚፈልጉ ኢንዱስትሪዎች እንደ ጤና አጠባበቅ፣ ፋይናንስ እና የግል ረዳቶች ያሉ ተግባራዊ እንድምታዎች አሉት። የተለቀቀው ክፍት ምንጭ ተፈጥሮ ማህበረሰቡ ለተወሰኑ የሃርድዌር ገደቦች ሞዴሉን እንዲገነባ እና እንዲያመቻች በማድረግ ጉዲፈቻን የበለጠ ያፋጥናል።

ቀጥሎ ምን እንደሚታይ

ገንቢዎች ለተለያዩ የሃርድዌር አርክቴክቸር ብጁ ዝቅተኛ ቢት ከርነሎች መኖራቸውን እና ኩባንያው በመጪዎቹ ወራት በመቶዎች የሚቆጠሩ-መለኪያ ሞዴሎችን የመጭመቅ አላማ እንዳለው መከታተል አለባቸው። በተጨማሪም፣ ከApple መሳሪያዎች ጋር ሊኖር የሚችለው ውህደት፣ በሚለቀቅበት ጊዜ ፍንጭ ይሰጣል፣ ለወደፊቱ የመሣሪያ-ጎን AI ችሎታዎች ትኩረት ይሰጣል።

ፕሪዝም ኤም ኤል ቀጣዩ ግቡ በሚቀጥሉት ሁለት ወራት ውስጥ ሞዴሎችን በመቶ ቢሊየን በሚቆጠሩ መለኪያዎች መጨመቅ እንደሆነ ተናግሯል። በዚህ አካባቢ ያለው ስኬት ለድንበር-ክፍል ሞዴሎች የሶስተኛ ደረጃ መጨናነቅን የበለጠ ያረጋግጣል ፣ ይህም የበለጠ የላቀ AI ችሎታዎችን በአካባቢያዊ ሃርድዌር ላይ እንዲገኝ ሊያደርግ ይችላል።

የተለቀቀው ጊዜ ከ Apple መሳሪያዎች ጋር ስለመዋሃድ ግምታዊ ግምቶችን አስከትሏል። ዋና ሥራ አስፈፃሚ ባባክ ሃሲቢ ከ Apple ጋር በተደረጉ ንግግሮች ሪፖርቶች ላይ አስተያየት ለመስጠት ፈቃደኛ ባይሆኑም ፣ ለ Apple MLX ማዕቀፍ ድጋፍ ከ Apple ሥነ-ምህዳራዊ ስርዓት ጋር ስልታዊ አሰላለፍ ይጠቁማል። ይፋዊ ሽርክናዎችን ወይም መሳሪያ-ተኮር ማሻሻያዎችን በተመለከተ የወደፊት ማስታወቂያዎች የአካባቢያዊ AI በ iOS እና macOS መድረኮች ላይ ከፍተኛ ተጽዕኖ ሊያሳድሩ ይችላሉ።

ተዛማጅ መመሪያዎች እና ጥያቄዎች