Sakana AI ارتقائی ماڈل ضم کرنا
Sakana AI ٹوکیو میں قائم ایک لیب ہے جو فطرت سے متاثر طریقوں کو AI پر لاگو کرتی ہے، خاص طور پر موجودہ کھلے ماڈلز کو نئے، بہتر ماڈلز میں ضم کرنے کے لیے ارتقائی الگورتھم کا استعمال۔
جائزہ
Instead of training from scratch, it 'breeds' models by automatically combining their strengths.
گہرا غوطہ
Sakana AI کی بنیاد 2023 میں Llion Jones نے رکھی تھی، جو اصل 'Attention Is All You Need' ٹرانسفارمر پیپر کے شریک مصنف تھے، اور ڈیوڈ ہا، جو پہلے Google برین کے تھے۔ جاپانی زبان میں اس نام کا مطلب 'مچھلی' ہے، جو اسکولوں اور بھیڑوں سے متاثر فلسفے کی عکاسی کرتا ہے: ایک بڑے ماڈل کے بجائے بہت سے چھوٹے، اجتماعی ایجنٹ۔ اس کی پیش رفت کی تکنیک، Evolutionary Model Merging، یہ دریافت کرنے کے لیے ارتقائی تلاش کا استعمال کرتی ہے کہ متعدد پہلے سے تربیت یافتہ اوپن سورس ماڈلز کے وزن اور تہوں کو کیسے ملایا جائے۔ الگورتھم انضمام کی ہزاروں ترکیبیں دریافت کرتا ہے، ایسے امتزاج کو برقرار رکھتے ہوئے جو ہدف کے کاموں پر اچھا اسکور کرتے ہیں۔ ساکانا نے اس کا استعمال موجودہ ماڈلز کو ضم کر کے قابل جاپانی زبان اور جاپانی ریاضی اور وژن کے ماڈل بنانے کے لیے استعمال کیا، نئے کی تربیت کی لاگت کے ایک چھوٹے سے حصے پر۔ کمپنی نے 'AI سائنٹسٹ' بھی تیار کیا، ایک ایسا نظام جو تحقیق کو خود کار طریقے سے کرنے کی کوشش کرتا ہے۔
تکنیکی بصیرت
ماڈل کا انضمام الگ سے تربیت یافتہ نیٹ ورکس کے پیرامیٹرز کو ملا دیتا ہے۔ Sakana ایک ساتھ دو جگہوں میں ضم ہو جاتا ہے: پیرامیٹر اسپیس (ہر ماڈل کے وزن کو کس طرح وزن اور انٹرپولیٹ کرنا ہے، پرت کے لحاظ سے) اور ڈیٹا فلو اسپیس (کون سی تہوں سے ماڈلز کو اسٹیک کرنا ہے اور کس ترتیب میں)۔ ایک ارتقائی الگورتھم امیدواروں کی ترکیبیں تجویز کرتا ہے، ایک بینچ مارک پر ان کا جائزہ لیتا ہے، اور بہترین کو منتخب اور تبدیل کرتا ہے، بغیر گریڈینٹ پر مبنی تربیت کے اعلیٰ کارکردگی کا مظاہرہ کرنے والے ہائبرڈز کی طرف اعادہ کرتا ہے۔
اسٹریٹجک اثر
Vendor strategy
وینڈر روڈ میپس اس بات پر اثر انداز ہوتے ہیں کہ آپ کی ٹیم آگے کیا خصوصیات بنا سکتی ہے۔
لاگت اور بجٹ
تجارتی شرائط اور تعیناتی کے اختیارات طویل مدتی لاگت اور خطرے کو متاثر کرتے ہیں۔
خطرہ اور حفاظت
کمپنی کی ترغیبات پروڈکٹ ڈیفالٹس، حفاظتی کرنسی، اور کھلے پن کو شکل دیتی ہیں۔
ساکانہ AI ارتقائی ماڈل کے ضم ہونے کا مستقبل
ارتقائی انضمام ایک ایسے مستقبل کی طرف اشارہ کرتا ہے جہاں نئے قابل ماڈلز کو کھلے ماڈلز کی بڑھتی ہوئی لائبریری سے سستے طریقے سے اکٹھا کیا جاتا ہے، جس سے لیبز سے باہر تک رسائی کو جمہوری بنایا جاتا ہے۔ Sakana کے خودکار 'AI Scientist' کے ساتھ مل کر، طویل مدتی وژن AI سسٹمز ہیں جو ان کی اپنی بہتری کو دریافت کرنے میں مدد کرتے ہیں۔ کھلے سوالات میں انضمام شدہ ماڈلز سے گریز کرنا شامل ہے جو کیڑے یا تعصبات کو وراثت میں رکھتے ہیں، اور آیا ارتقائی تلاش کے پیمانے موجودہ ماڈلز کو بنیادی طور پر مہارت دینے کے بجائے فرنٹیئر لیول پرفارمنس تک لے جاتے ہیں۔
حقیقی دنیا کا نفاذ
دوبارہ تربیت کے بغیر انگریزی اور جاپانی اوپن ماڈلز کو ملا کر ایک مضبوط جاپانی قابل زبان ماڈل بنانا
ریاضی کے ماہر ماڈلز کے امتزاج کو تیار کرکے ایک جاپانی ریاضی کے استدلال کا ماڈل بنانا
ایک وژن لینگوئج ماڈل تیار کرنا جو کراس ڈومین انضمام کے ذریعے تصاویر میں جاپانی متن کو ہینڈل کرتا ہے۔
چھوٹی تنظیموں کو شروع سے تربیت دینے کے بجائے کھلے وزن سے کام کے مخصوص ماڈلز کو سستے طریقے سے جمع کرنے دینا
خطرات اور گارڈریلز
لانچ کے اعلانات حقیقی پروڈکشن ورک فلو میں استحکام کو آگے بڑھا سکتے ہیں۔
API کی قیمتوں کا تعین یا پالیسی میں تبدیلی راتوں رات مفروضوں کو توڑ سکتی ہے۔
سنگل وینڈر پر انحصار لاک ان اور ہجرت کے اخراجات کو بڑھاتا ہے۔
نفاذ کا روڈ میپ
اپنے کاموں اور ڈیٹا سیٹس کا استعمال کرتے ہوئے فراہم کنندگان کا اندازہ لگائیں۔
انضمام سے پہلے رازداری، سیکورٹی اور قانونی شرائط کا جائزہ لیں۔
ماڈلز یا وینڈرز میں فال بیک پلان کو برقرار رکھیں۔
رہائی کے نوٹس کی نگرانی کریں تاکہ روڈ میپ میں تبدیلیاں ٹیموں کو حیران نہ کریں۔
دریافت کرتے رہیں
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Sakana AI Evolutionary Model Merging quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
اگلا گائیڈ
ماڈل ضم کرنا
اکثر پوچھے گئے سوالات
What is Sakana AI Evolutionary Model Merging?
Sakana AI ٹوکیو میں قائم ایک لیب ہے جو فطرت سے متاثر طریقوں کو AI پر لاگو کرتی ہے، خاص طور پر موجودہ کھلے ماڈلز کو نئے، بہتر ماڈلز میں ضم کرنے کے لیے ارتقائی الگورتھم کا استعمال۔ شروع سے تربیت دینے کے بجائے، یہ خود بخود ان کی طاقتوں کو ملا کر ماڈلز کو 'نسل' کرتا ہے۔
Sakana AI کا ارتقائی ماڈل انضمام دراصل کیا کرتا ہے؟
یہ نئے سرے سے تربیت دینے کے بجائے متعدد پہلے سے تربیت یافتہ کھلے ماڈلز کے وزن اور تہوں کو یکجا کرنے کی ترکیبیں تیار کرتا ہے۔
سکانہ اے آئی کے قابل ذکر شریک بانی کون ہیں؟
Llion Jones، 'Attention Is All You Need' کے شریک مصنف نے ڈیوڈ ہا کے ساتھ ساکانا کی مشترکہ بنیاد رکھی۔
'سکانہ' نام کا کیا مطلب ہے اور کیا عکاسی کرتا ہے؟
Sakana کا مطلب ہے مچھلی; کمپنی ایک یک سنگی ماڈل پر بہت سے چھوٹے اجتماعی ایجنٹوں کی حمایت کرتی ہے۔
ساکانا ایوولز ماڈل کن دو جگہوں پر ضم ہوتا ہے؟
یہ دونوں کی تلاش کرتا ہے کہ کس طرح وزن/انٹرپولیٹ پیرامیٹرز اور کن پرتوں کو اسٹیک کرنا ہے اور کس ترتیب میں۔
ماڈل انضمام کے علاوہ، سکانہ نے کون سا مہتواکانکشی نظام متعارف کرایا؟
سکانا نے 'AI سائنسدان' جاری کیا، ایک ایسا نظام جو تحقیقی عمل کے حصوں کو خود کار طریقے سے بنانے کی کوشش کرتا ہے۔