কোম্পানি গাইড

সাকানা এআই বিবর্তনীয় মডেল মার্জিং

Sakana AI হল একটি টোকিও-ভিত্তিক ল্যাব যা AI-তে প্রকৃতি-অনুপ্রাণিত পদ্ধতি প্রয়োগ করে, বিশেষত বিবর্তনীয় অ্যালগরিদম ব্যবহার করে বিদ্যমান খোলা মডেলগুলিকে নতুন, আরও ভাল মডেলগুলিতে একত্রিত করতে।

2 মিনিট পঠিতসর্বশেষ আপডেট করা হয়েছে

ওভারভিউ

Instead of training from scratch, it 'breeds' models by automatically combining their strengths.

গভীর ডুব

সাকানা এআই 2023 সালে লিয়ন জোন্স দ্বারা প্রতিষ্ঠিত হয়েছিল, মূল 'অ্যাটেনশন ইজ অল ইউ নিড' ট্রান্সফরমার পেপারের সহ-লেখক এবং ডেভিড হা, পূর্বে Google ব্রেইনের। জাপানি ভাষায় এই নামের অর্থ 'মাছ', যা স্কুল এবং ঝাঁক দ্বারা অনুপ্রাণিত একটি দর্শনকে প্রতিফলিত করে: একটি বিশাল মডেলের পরিবর্তে অনেক ছোট, যৌথ এজেন্ট। এর যুগান্তকারী কৌশল, ইভোলিউশনারি মডেল মার্জিং, একাধিক পূর্বপ্রশিক্ষিত ওপেন-সোর্স মডেলের ওজন এবং স্তরগুলিকে কীভাবে একত্রিত করা যায় তা আবিষ্কার করতে বিবর্তনীয় অনুসন্ধান ব্যবহার করে। অ্যালগরিদম হাজার হাজার মার্জ রেসিপি অন্বেষণ করে, এমন সংমিশ্রণগুলিকে ধরে রাখে যা লক্ষ্য কার্যগুলিতে ভাল স্কোর করে৷ সাকানা নতুনদের প্রশিক্ষণের খরচের একটি ক্ষুদ্র অংশে বিদ্যমান মডেলগুলিকে একত্রিত করে সক্ষম জাপানি-ভাষা এবং জাপানি গণিত এবং দৃষ্টি মডেল তৈরি করতে এটি ব্যবহার করেছিলেন। সংস্থাটি 'এআই সায়েন্টিস্ট'ও তৈরি করেছে, একটি সিস্টেম যা গবেষণাকে স্বয়ংক্রিয় করার চেষ্টা করে।

প্রযুক্তিগত অন্তর্দৃষ্টি

মডেল মার্জিং আলাদাভাবে প্রশিক্ষিত নেটওয়ার্কের পরামিতি মিশ্রিত করে। সাকানা একবারে দুটি স্পেসকে একত্রিত করে: প্যারামিটার স্পেস (কীভাবে প্রতিটি মডেলের ওজনের ওজন এবং প্রসারণ করা যায়, স্তর দ্বারা স্তর) এবং ডেটা-ফ্লো স্পেস (কোন স্তর থেকে মডেলগুলি স্ট্যাক করা হবে এবং কোন ক্রমে)। একটি বিবর্তনীয় অ্যালগরিদম প্রার্থীর রেসিপি প্রস্তাব করে, একটি বেঞ্চমার্কে তাদের মূল্যায়ন করে এবং সেরাটি নির্বাচন করে এবং পরিবর্তিত করে, গ্রেডিয়েন্ট-ভিত্তিক প্রশিক্ষণ ছাড়াই উচ্চ-সম্পাদক হাইব্রিডের দিকে পুনরাবৃত্তি করে।

কৌশলগত প্রভাব

বিক্রেতার কৌশল

বিক্রেতা রোডম্যাপ আপনার দল পরবর্তীতে কী কী বৈশিষ্ট্য তৈরি করতে পারে তা প্রভাবিত করে।

খরচ ও বাজেট

বাণিজ্যিক শর্তাবলী এবং স্থাপনার বিকল্পগুলি দীর্ঘমেয়াদী খরচ এবং ঝুঁকিকে প্রভাবিত করে।

ঝুঁকি এবং নিরাপত্তা

কোম্পানির প্রণোদনা পণ্যের ডিফল্ট, নিরাপত্তা ভঙ্গি এবং উন্মুক্ততাকে আকার দেয়।

সাকানা এআই বিবর্তনীয় মডেল মার্জিংয়ের ভবিষ্যত

বিবর্তনমূলক একত্রিতকরণ ভবিষ্যতের দিকে ইঙ্গিত দেয় যেখানে নতুন সক্ষম মডেলগুলি উন্মুক্ত মডেলগুলির একটি ক্রমবর্ধমান লাইব্রেরি থেকে সস্তায় একত্রিত করা হয়, বিশাল গণনা বাজেটের সাথে ল্যাবগুলির বাইরে অ্যাক্সেসকে গণতন্ত্রীকরণ করে৷ সাকানার স্বয়ংক্রিয় 'এআই সায়েন্টিস্ট'-এর সাথে মিলিত, দীর্ঘমেয়াদী দৃষ্টিভঙ্গি হল AI সিস্টেম যা তাদের নিজস্ব উন্নতি আবিষ্কার করতে সাহায্য করে। খোলা প্রশ্নগুলির মধ্যে বাগ বা পক্ষপাতের উত্তরাধিকারসূত্রে মার্জ করা মডেলগুলি এড়িয়ে যাওয়া এবং বিবর্তনীয় অনুসন্ধান প্রধানত বিদ্যমান মডেলগুলিকে বিশেষায়িত করার পরিবর্তে সীমান্ত-স্তরের কর্মক্ষমতায় স্কেল করা অন্তর্ভুক্ত।

বাস্তব-বিশ্ব বাস্তবায়ন

পুনঃপ্রশিক্ষণ ছাড়াই ইংরেজি এবং জাপানি উন্মুক্ত মডেলগুলিকে একত্রিত করে একটি শক্তিশালী জাপানি-সক্ষম ভাষার মডেল তৈরি করা

গণিত-বিশেষ মডেলের সমন্বয়ের মাধ্যমে একটি জাপানি গণিত যুক্তি মডেল তৈরি করা

একটি ভিশন-ভাষা মডেল তৈরি করা যা ক্রস-ডোমেন মার্জিংয়ের মাধ্যমে চিত্রগুলিতে জাপানি পাঠ্য পরিচালনা করে

ছোট সংস্থাগুলিকে স্ক্র্যাচ থেকে প্রশিক্ষণের পরিবর্তে খোলা ওজন থেকে সস্তায় টাস্ক-নির্দিষ্ট মডেলগুলি একত্রিত করতে দেওয়া

ঝুঁকি এবং প্রহরী

লঞ্চ ঘোষণা বাস্তব উত্পাদন কর্মপ্রবাহ মধ্যে স্থিতিশীলতা ছাড়িয়ে যেতে পারে.

API মূল্য নির্ধারণ বা নীতি পরিবর্তন রাতারাতি অনুমান ভঙ্গ করতে পারে।

একক-বিক্রেতা নির্ভরতা লক-ইন এবং মাইগ্রেশন খরচ বাড়ায়।

বাস্তবায়ন রোডম্যাপ

1

আপনার নিজের কাজ এবং ডেটাসেট ব্যবহার করে প্রদানকারীদের মূল্যায়ন করুন।

2

একীকরণের আগে গোপনীয়তা, নিরাপত্তা এবং আইনি শর্তাবলী পর্যালোচনা করুন।

3

মডেল বা বিক্রেতা জুড়ে একটি ফলব্যাক পরিকল্পনা বজায় রাখুন।

4

রিলিজ নোটগুলি মনিটর করুন যাতে রোডম্যাপ পরিবর্তন দলগুলিকে অবাক না করে।

অন্বেষণ চালিয়ে যান

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Sakana AI Evolutionary Model Merging quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

কুইজ শুরু করুন

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

What is Sakana AI Evolutionary Model Merging?

Sakana AI হল একটি টোকিও-ভিত্তিক ল্যাব যা AI-তে প্রকৃতি-অনুপ্রাণিত পদ্ধতি প্রয়োগ করে, বিশেষত বিবর্তনীয় অ্যালগরিদম ব্যবহার করে বিদ্যমান খোলা মডেলগুলিকে নতুন, আরও ভাল মডেলগুলিতে একত্রিত করতে। স্ক্র্যাচ থেকে প্রশিক্ষণের পরিবর্তে, এটি স্বয়ংক্রিয়ভাবে তাদের শক্তিগুলিকে একত্রিত করে মডেলগুলির 'প্রজনন' করে।

সাকানা এআই এর বিবর্তনীয় মডেল মার্জিং আসলে কী করে?

এটি নতুন করে প্রশিক্ষণের পরিবর্তে একাধিক পূর্বপ্রশিক্ষিত উন্মুক্ত মডেলের ওজন এবং স্তরগুলিকে একত্রিত করার জন্য রেসিপি তৈরি করে।

সাকানা এআই-এর একজন উল্লেখযোগ্য সহ-প্রতিষ্ঠাতা কে?

লিয়ন জোন্স, 'অ্যাটেনশন ইজ অল ইউ নিড'-এর সহ-লেখক, ডেভিড হা-এর সাথে সাকানা সহ-প্রতিষ্ঠা করেন।

'সাকানা' নামের অর্থ ও প্রতিফলন কী?

সাকানা মানে মাছ; কোম্পানি একটি একচেটিয়া মডেলের উপর অনেক ছোট যৌথ এজেন্টদের পক্ষে।

সাকানা বিবর্তিত মডেল কোন দুটি স্থান জুড়ে একত্রিত হয়?

এটি কীভাবে ওজন/ইন্টারপোলেট প্যারামিটার এবং কোন স্তরগুলি স্ট্যাক করতে হবে এবং কী ক্রমে উভয়ই অনুসন্ধান করে।

মডেল মার্জিং ছাড়াও সাকানা কোন উচ্চাভিলাষী ব্যবস্থা চালু করেছিলেন?

সাকানা 'এআই সায়েন্টিস্ট' প্রকাশ করেছে, একটি সিস্টেম যা গবেষণা প্রক্রিয়ার অংশগুলিকে স্বয়ংক্রিয় করার চেষ্টা করে।