एजेंटों का मिश्रण एकत्रीकरण

It lets a team of open models rival or beat a single top-tier model.

टुगेदर एआई के 2024 पेपर में पेश किया गया, मिक्सचर-ऑफ-एजेंट्स कई एलएलएम को परतों में व्यवस्थित करता है। पहली परत में, कई 'प्रस्तावक' मॉडल प्रत्येक स्वतंत्र रूप से संकेत का उत्तर देते हैं। फिर उनके आउटपुट को संयोजित किया जाता है और अगली परत को सौंप दिया जाता है, जहां मॉडल फिर से प्रतिक्रिया देते हैं, अब सभी पिछले ड्राफ्ट पर वातानुकूलित हैं। ऐसे एक या अधिक राउंड के बाद, एक अंतिम 'एग्रीगेटर' मॉडल हर चीज़ को एक ही उत्तर में संश्लेषित करता है। मुख्य अंतर्दृष्टि, जिसे लेखक 'एलएलएम की सहयोगात्मकता' कहते हैं, वह यह है कि जब साथियों के उत्तर दिखाए जाते हैं, तो मॉडल बेहतर प्रतिक्रिया उत्पन्न करते हैं, यहां तक ​​कि अपूर्ण उत्तर भी। AlpacaEval 2.0 बेंचमार्क पर, पूरी तरह से ओपन-सोर्स मॉडल से निर्मित MoA ने कथित तौर पर GPT-4 ओमनी के स्कोर को पार कर लिया है, यह दर्शाता है कि विविध, सस्ते मॉडल का सावधानीपूर्वक एकत्रीकरण एक एकल फ्रंटियर सिस्टम को हरा सकता है।