کیا ہوا؟
PrismML نے Bonsai 2 27B جاری کیا، ایک کمپریسڈ بڑی زبان کا ماڈل جسے پرسنل کمپیوٹرز اور ہائی اینڈ اسمارٹ فونز پر بغیر کلاؤڈ انفراسٹرکچر کے چلانے کے لیے ڈیزائن کیا گیا ہے۔ ماڈل علی بابا کے Qwen3.8 27B کو 5.9 گیگا بائٹس تک گھٹا دیتا ہے ٹرنری ویٹ کمپریشن کا استعمال کرتے ہوئے، اصل کی بینچ مارک کارکردگی کا 98% برقرار رکھتا ہے۔ وزن اپاچی 2.0 لائسنس کے تحت دستیاب ہیں اور CUDA کے ذریعے NVIDIA GPUs اور MLX کے ذریعے Apple آلات کی حمایت کرتے ہیں۔
PrismML، ایک سٹارٹ اپ جس کی بنیاد Caltech محققین نے رکھی تھی اور اس کی قیادت Babak Hassibi نے کی تھی، نے جمعرات کو بونسائی 2 27B جاری کیا۔ یہ ماڈل علی بابا کے Qwen3.8 27B کا ایک کمپریسڈ ورژن ہے، جسے ٹرنری ویٹ کمپریشن کے ذریعے 5.9 گیگا بائٹس تک کم کیا گیا، جو 16 بٹ پیرامیٹرز کو تین قدروں میں تبدیل کرتا ہے: مثبت ایک، منفی ایک، یا صفر۔ یہ تکنیک بے کار پیرامیٹرز کو ختم کرتی ہے، جس سے ماڈل کو مقامی ہارڈ ویئر پر فٹ ہونے کے دوران اصل کی بینچ مارک کارکردگی کا 98% برقرار رکھنے کی اجازت ملتی ہے۔
ریلیز مارچ سے اصل بونسائی ماڈل کے مقابلے میں نمایاں بہتری کی نشاندہی کرتی ہے، جس نے بینچ مارک کی کارکردگی کا 95 فیصد برقرار رکھا۔ PrismML کے مطابق، اصل ماڈل کو 11 ملین سے زیادہ بار ڈاؤن لوڈ کیا جا چکا ہے، جس میں اضافی چھوٹے ماڈلز 2.6 ملین ڈاؤن لوڈز جمع کر رہے ہیں، جو ڈیوائس پر مبنی AI کے لیے مضبوط ڈویلپر کو اپنانے کی نشاندہی کرتا ہے۔ نیا ماڈل NVIDIA GPUs پر CUDA کے ذریعے اور Apple ڈیوائسز (Mac، iPhone، iPad) پر MLX کے ذریعے چلتا ہے، موثر مقامی عمل کو یقینی بنانے کے لیے حسب ضرورت کم بٹ کرنل کا استعمال کرتا ہے۔
ماڈل کا وزن Apache 2.0 لائسنس کے تحت فوری طور پر دستیاب ہے، جس سے وسیع انضمام اور ترمیم کی اجازت ملتی ہے۔ PrismML نے $22.25 ملین سیڈ راؤنڈ اکٹھا کیا جس کی حمایت کھوسلہ وینچرز، سربیرس کیپیٹل، اور کالٹیک نے کی، جس میں ڈیٹابرکس کے شریک بانی، آئن اسٹوکا، ایک مشیر کے طور پر خدمات انجام دے رہے ہیں۔ کمپنی کا نقطہ نظر کم سے کم فائل سائز کے ساتھ اعلی کارکردگی کی برابری حاصل کرنے کے لیے بڑے ماڈلز میں فالتو پن کا فائدہ اٹھانے پر مرکوز ہے، ایک حکمت عملی حسبی نے تجویز کی ہے کہ ماڈل کے سائز میں اضافہ کے ساتھ یہ زیادہ موثر ہو جائے گا۔
ماخذ کی تفصیلات: techjuice.pk ↗
یہ کیوں اہمیت رکھتا ہے۔
یہ ریلیز یہ ظاہر کرتی ہے کہ استدلال کے قابل AI صارفین کے ہارڈ ویئر پر مقامی طور پر کام کر سکتا ہے، رازداری کے خدشات کو دور کر سکتا ہے اور کلاؤڈ لیٹنسی اور سبسکرپشن کے اخراجات کو ختم کر سکتا ہے۔ نمایاں طور پر چھوٹے فائل سائز کے ساتھ اعلی کارکردگی کی برابری حاصل کر کے، PrismML کلاؤڈ پر منحصر AI سے تقسیم شدہ، ڈیوائس پر مبنی استدلال کی طرف بڑھتا ہے، جس سے AI کی جدید صلاحیتوں کو بڑے پیمانے پر ڈیٹا سینٹر کے بنیادی ڈھانچے کے بغیر قابل رسائی بنایا جاتا ہے۔
صارف کے آلات پر مقامی طور پر استدلال کے قابل AI کو چلانے کی صلاحیت اس بات کو یقینی بنا کر رازداری کے اہم خدشات کو دور کرتی ہے کہ صارف کا ڈیٹا کبھی بھی ڈیوائس سے باہر نہ جائے۔ یہ کلاؤڈ ٹرانسمیشن کی ضرورت کو ختم کرتا ہے، تاخیر کو کم کرتا ہے اور کلاؤڈ پر مبنی AI خدمات سے وابستہ سبسکرپشن کے جاری اخراجات کو ہٹاتا ہے۔ ڈویلپرز اور اختتامی صارفین کے لیے، یہ تقسیم شدہ، ڈیوائس پر مبنی استدلال کی طرف ایک بنیادی تبدیلی کی نمائندگی کرتا ہے جو کہ لاگت سے موثر اور نجی دونوں ہے۔
5.9GB فائل میں 98% بینچ مارک کارکردگی کی اعلی برقراری کی شرح یہ ظاہر کرتی ہے کہ کمپریشن تکنیک بڑے ماڈلز کی ذہانت کو مؤثر طریقے سے محفوظ رکھ سکتی ہے۔ اس کے عملی مضمرات ان صنعتوں کے لیے ہیں جن کو آن ڈیوائس AI کی ضرورت ہوتی ہے، جیسے کہ صحت کی دیکھ بھال، مالیات، اور ذاتی معاون، جہاں ڈیٹا کی خودمختاری اور حقیقی وقت کا ردعمل سب سے اہم ہے۔ ریلیز کی اوپن سورس نوعیت کمیونٹی کو مخصوص ہارڈ ویئر کی رکاوٹوں کے لیے ماڈل کو تیار کرنے اور بہتر بنانے کی اجازت دے کر اپنانے کو مزید تیز کرتی ہے۔
انٹرایکٹو میکانزم: یہ اصل میں کیسے کام کرتا ہے۔
اس ترقی کے پیچھے بنیادی ٹیکنالوجی کو انٹرایکٹو طریقے سے دریافت کریں۔
Which component of an AI application is the machine-learning model itself?
آگے کیا دیکھنا ہے۔
ڈویلپرز کو مختلف ہارڈویئر آرکیٹیکچرز کے لیے کسٹم لو بٹ کرنل کی دستیابی اور آنے والے مہینوں میں سیکڑوں اربوں پیرامیٹر ماڈلز کو کمپریس کرنے کے کمپنی کے بیان کردہ ہدف کی نگرانی کرنی چاہیے۔ مزید برآں، Apple ڈیوائسز کے ساتھ ممکنہ انضمام، جس کا اشارہ ریلیز کے وقت سے ہوتا ہے، مستقبل کی ڈیوائس سائیڈ AI صلاحیتوں پر توجہ دینے کی ضمانت دیتا ہے۔
PrismML نے کہا ہے کہ اس کا اگلا ہدف اگلے چند مہینوں میں سینکڑوں ارب پیرامیٹرز کے ساتھ ماڈلز کو کمپریس کرنا ہے۔ اس علاقے میں کامیابی فرنٹیئر کلاس ماڈلز کے لیے ٹرنری کمپریشن کی اسکیل ایبلٹی کو مزید توثیق کرے گی، ممکنہ طور پر مقامی ہارڈویئر پر مزید جدید AI صلاحیتیں دستیاب کرائے گی۔
ریلیز کا وقت Apple آلات کے ساتھ ممکنہ انضمام کے بارے میں قیاس آرائیوں کا باعث بنا ہے۔ جبکہ CEO بابک حسیبی نے Apple کے ساتھ بات چیت کی رپورٹوں پر تبصرہ کرنے سے انکار کر دیا، Apple کے MLX فریم ورک کے لیے حمایت Apple کے ماحولیاتی نظام کے ساتھ اسٹریٹجک صف بندی کی تجویز کرتی ہے۔ مستقبل کے اعلانات آفیشل پارٹنرشپ یا ڈیوائس کی مخصوص اصلاح کے بارے میں نمایاں طور پر iOS اور macOS پلیٹ فارمز پر مقامی AI کو اپنانے پر اثر انداز ہو سکتے ہیں۔