تجميع خليط الوكلاء

تم تقديم Mixture of-Agents في ورقة بحثية صدرت عام 2024 من موقع Together AI، حيث يقوم بتنظيم العديد من شهادات LLM في طبقات. في الطبقة الأولى، يجيب كل نموذج من نماذج "المقترح" بشكل مستقل على الموجه. يتم بعد ذلك تجميع مخرجاتهم وتسليمها إلى الطبقة التالية، حيث تستجيب النماذج مرة أخرى، مشروطة الآن بجميع المسودات السابقة. وبعد جولة واحدة أو أكثر من هذه الجولات، يقوم نموذج "المجمع" النهائي بتجميع كل شيء في إجابة واحدة. الفكرة الأساسية، التي يسميها المؤلفون "تعاونية طلاب ماجستير الإدارة"، هي أن النماذج تنتج استجابات أفضل عندما تظهر إجابات أقرانها، حتى تلك غير الكاملة. في معيار AlpacaEval 2.0، يقال إن مذكرة التفاهم المبنية بالكامل من نماذج مفتوحة المصدر تجاوزت نتيجة GPT-4 Omni، مما يدل على أن التجميع الدقيق للنماذج المتنوعة والأرخص يمكن أن يتغلب على نظام حدودي واحد.