এজেন্টের মিশ্রণ
মিক্সচার-অফ-এজেন্টস (MoA) হল এমন একটি কৌশল যেখানে বেশ কয়েকটি ভাষার মডেল উত্তরের খসড়া তৈরি করে এবং তারপর একটি সমষ্টিকারী মডেল তাদের সেরা ধারণাগুলিকে একটি উন্নত প্রতিক্রিয়াতে ফিউজ করে।
ওভারভিউ
It lets a team of open models rival or beat a single top-tier model.
গভীর ডুব
Together AI থেকে 2024 সালের একটি গবেষণাপত্রে উপস্থাপন করা হয়েছে, Mixture-of-Agents একাধিক LLM-কে স্তরে সাজিয়েছে। প্রথম স্তরে, বেশ কয়েকটি 'প্রস্তাবক' মডেল প্রতিটি স্বাধীনভাবে প্রম্পটের উত্তর দেয়। তাদের আউটপুটগুলি তারপর একত্রিত করা হয় এবং পরবর্তী স্তরে হস্তান্তর করা হয়, যেখানে মডেলগুলি আবার সাড়া দেয়, এখন আগের সমস্ত ড্রাফ্টগুলিতে শর্তযুক্ত। এই ধরনের এক বা একাধিক রাউন্ডের পরে, একটি চূড়ান্ত 'অ্যাগ্রিগেটর' মডেল সবকিছুকে একক উত্তরে সংশ্লেষিত করে। মূল অন্তর্দৃষ্টি, যাকে লেখকরা 'LLMs-এর সহযোগিতামূলকতা' বলে অভিহিত করেন, তা হল যে মডেলগুলি যখন সহকর্মীদের উত্তর দেখানো হয়, এমনকি অসম্পূর্ণ উত্তরগুলি দেখানো হয় তখন আরও ভাল প্রতিক্রিয়া তৈরি করে৷ AlpacaEval 2.0 বেঞ্চমার্কে, সম্পূর্ণরূপে ওপেন সোর্স মডেল থেকে তৈরি একটি MoA GPT-4 Omni-এর স্কোরকে ছাড়িয়ে গেছে, এটি প্রদর্শন করে যে বিভিন্ন, সস্তা মডেলের সতর্কতা একত্রিত করা একক সীমান্ত সিস্টেমকে হারাতে পারে।
প্রযুক্তিগত অন্তর্দৃষ্টি
MoA সাধারণ সংখ্যাগরিষ্ঠ ভোটিং থেকে পৃথক: একটি উত্তর বাছাই করার পরিবর্তে, সমষ্টিকারী সমস্ত প্রার্থীর প্রতিক্রিয়াগুলি প্রসঙ্গ হিসাবে পড়ে এবং একটি নতুন সংশ্লেষণ, শক্তি মিশ্রন এবং ফিল্টারিং ত্রুটি তৈরি করে। প্রস্তাবকদের মধ্যে বৈচিত্র্য সাহায্য করে, তাই বিভিন্ন মডেল পরিবারের মিশ্রিত করা মূল্যবান। কাঠামোটি স্তরযুক্ত, একটি গভীর নেটওয়ার্কের মতো যেখানে প্রতিটি স্তরের 'নিউরন' সম্পূর্ণ এলএলএম কল। ট্রেড-অফ হল লেটেন্সি এবং খরচ: প্রতিটি লেয়ার ইনফারেন্স কলের সংখ্যাকে বহুগুণ করে, তাই MoA গুণমান উত্তোলনের জন্য আরও বেশি কম্পিউট খরচ করে।
কৌশলগত প্রভাব
গতি এবং স্কেল
ভাষার কর্মপ্রবাহ ধারাবাহিকতাকে ত্যাগ না করে দ্রুত অগ্রসর হতে পারে।
অ্যাক্সেস এবং পৌঁছানো
এটি ভাষা এবং যোগাযোগ শৈলী জুড়ে অ্যাক্সেস প্রসারিত করে।
সুস্পষ্ট সিদ্ধান্ত
অটোমেশন পুনরাবৃত্তি পরিচালনা করার সময় দলগুলি বিচারে আরও বেশি সময় ব্যয় করতে পারে।
দ্য ফিউচার অফ মিক্সচার-অফ-এজেন্ট অ্যাগ্রিগেশন
অনুমান সস্তা এবং অর্কেস্ট্রেশন ফ্রেমওয়ার্ক পরিপক্ক হওয়ার সাথে সাথে MoA-শৈলীর সমষ্টি ছড়িয়ে পড়ার আশা করুন। গবেষণার দিকনির্দেশের মধ্যে রয়েছে প্রতি ক্যোয়ারী (রাউটিং) প্রতি কোন প্রস্তাবককে বিশ্বাস করতে হবে তা শেখা, সমান্তরালভাবে প্রস্তাবকদের চালিয়ে লেটেন্সি পেনাল্টি কমানো এবং দুর্বলগুলিকে তাড়াতাড়ি ছাঁটাই করা, এবং MoA-কে টুল-ব্যবহারকারী এজেন্টদের সাথে একত্রিত করা যাতে অ্যাগ্রিগেটর শুধুমাত্র টেক্সট নয়, অ্যাকশন এবং প্রাপ্ত প্রমাণগুলিকে ফিউজ করে। উন্মুক্ত মডেলগুলি প্রসারিত হওয়ার সাথে সাথে তাদের বুদ্ধিমত্তার সাথে সংযুক্ত করা একটি একক দৈত্যাকার মডেল ছাড়াই সীমান্ত-স্তরের মানের ক্রমবর্ধমান ব্যবহারিক পথ হয়ে ওঠে।
বাস্তব-বিশ্ব বাস্তবায়ন
প্রস্তাবক হিসাবে তিনটি ভিন্ন ওপেন চ্যাট মডেলকে একত্রিত করা, তারপর একটি শক্তিশালী গ্রাহক-সমর্থন উত্তর তৈরি করতে একটি শক্তিশালী সমষ্টি ব্যবহার করে।
শুধুমাত্র ওপেন-সোর্স মডেল ব্যবহার করে AlpacaEval-স্টাইল বেঞ্চমার্কে নির্দেশনা-অনুসরণকারী স্কোর বৃদ্ধি করা।
একটি একক, আরও শক্তিশালী ফাংশন বাস্তবায়নে বেশ কয়েকটি মডেল থেকে বিভিন্ন কোড প্রস্তাবনাগুলিকে একত্রিত করা।
একটি ওপেন-ওয়েট পাইপলাইন চালানো যা গোপনীয়তা-সংবেদনশীল স্থাপনার জন্য সীমান্তের মানের কাছে যায় যেখানে ডেটা কোনও কোম্পানির সার্ভার ছেড়ে যেতে পারে না।
ঝুঁকি এবং প্রহরী
হ্যালুসিনেটেড ফ্যাক্টগুলি শান্তভাবে রিপোর্ট, সমর্থন প্রবাহ, বা গবেষণা আউটপুট প্রবেশ করতে পারে।
প্রম্পট সংবেদনশীলতা অনুরূপ অনুরোধ জুড়ে অসামঞ্জস্যপূর্ণ ফলাফল তৈরি করতে পারে।
অ্যাক্সেস কন্ট্রোল দুর্বল হলে সংবেদনশীল পাঠ্য ডেটা উন্মুক্ত হতে পারে।
বাস্তবায়ন রোডম্যাপ
রোলআউট করার আগে আউটপুট ফর্ম্যাট, টোন এবং মানের মান নির্ধারণ করুন।
যখনই নির্ভুলতা গুরুত্বপূর্ণ তখন বিশ্বস্ত উত্সের সাথে গ্রাউন্ড প্রতিক্রিয়া।
উচ্চ-স্টেকের আউটপুটগুলির জন্য একটি মানব পর্যালোচনা চেকপয়েন্ট রাখুন।
ব্যর্থতার নিদর্শনগুলি ট্র্যাক করুন এবং প্রম্পট বা ওয়ার্কফ্লোগুলিকে নিয়মিতভাবে পুনরায় প্রশিক্ষণ দিন।
অন্বেষণ চালিয়ে যান
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
পরবর্তী গাইড
গভীরতার মিশ্রণ
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
What is Mixture-of-Agents Aggregation?
মিক্সচার-অফ-এজেন্টস (MoA) হল এমন একটি কৌশল যেখানে বেশ কয়েকটি ভাষার মডেল উত্তরের খসড়া তৈরি করে এবং তারপর একটি সমষ্টিকারী মডেল তাদের সেরা ধারণাগুলিকে একটি উন্নত প্রতিক্রিয়াতে ফিউজ করে। এটি উন্মুক্ত মডেলের একটি দলকে প্রতিদ্বন্দ্বী বা একটি একক শীর্ষ-স্তরের মডেলকে পরাজিত করতে দেয়।
মিক্সচার-অফ-এজেন্টে, অ্যাগ্রিগেটর মডেলের ভূমিকা কী?
সমষ্টিকারী সমস্ত প্রার্থীর প্রতিক্রিয়া পড়ে এবং একটি মিশ্রিত, উচ্চ-মানের উত্তর তৈরি করে।
LLM-এর কোন মূল সম্পত্তির উপর MoA কাগজ নির্ভর করে?
লেখকরা পর্যবেক্ষণ করেছেন যে মডেলগুলি তাদের উত্তরগুলিকে উন্নত করে যখন অন্যান্য মডেলের খসড়াগুলিতে শর্তযুক্ত হয়, এমনকি অসম্পূর্ণগুলিও৷
সাধারণ সংখ্যাগরিষ্ঠ ভোটের থেকে MoA কীভাবে আলাদা?
ভোটের বিপরীতে, MoA শুধুমাত্র একটি বিদ্যমান উত্তর নির্বাচন করে না; এটি একটি নতুন প্রতিক্রিয়া তৈরি করে যা প্রার্থীদের মিশ্রিত করে।
প্রস্তাবক মডেলের মধ্যে বৈচিত্র্য কেন MoA-তে মূল্যবান?
বৈচিত্র্যময় প্রস্তাবকারীরা আরও গ্রাউন্ড কভার করে, অ্যাগ্রিগেটরকে ফিউজ করার জন্য আরও সমৃদ্ধ ধারণা এবং ফিল্টার করার জন্য ত্রুটি দেয়।
MoA পদ্ধতির প্রধান ব্যবহারিক খরচ কি?
প্রতিটি স্তর আরও LLM কল যোগ করে, তাই MoA উন্নত উত্তর মানের জন্য অতিরিক্ত গণনা এবং সময় বাণিজ্য করে।