भाषा एआई गाइड
एजेंटों का मिश्रण एकत्रीकरण
मिक्सचर-ऑफ-एजेंट्स (एमओए) एक ऐसी तकनीक है जहां कई भाषा मॉडल उत्तरों का मसौदा तैयार करते हैं और फिर एक एग्रीगेटर मॉडल उनके सर्वोत्तम विचारों को एक बेहतर प्रतिक्रिया में जोड़ता है।
इस गाइड को सुनेंएआई-नैरेटेड · ~2 min
इस पृष्ठ पर2 मिनट लाल
सिंहावलोकन
It lets a team of open models rival or beat a single top-tier model.
गहरा गोता
टुगेदर एआई के 2024 पेपर में पेश किया गया, मिक्सचर-ऑफ-एजेंट्स कई एलएलएम को परतों में व्यवस्थित करता है। पहली परत में, कई 'प्रस्तावक' मॉडल प्रत्येक स्वतंत्र रूप से संकेत का उत्तर देते हैं। फिर उनके आउटपुट को संयोजित किया जाता है और अगली परत को सौंप दिया जाता है, जहां मॉडल फिर से प्रतिक्रिया देते हैं, अब सभी पिछले ड्राफ्ट पर वातानुकूलित हैं। ऐसे एक या अधिक राउंड के बाद, एक अंतिम 'एग्रीगेटर' मॉडल हर चीज़ को एक ही उत्तर में संश्लेषित करता है। मुख्य अंतर्दृष्टि, जिसे लेखक 'एलएलएम की सहयोगात्मकता' कहते हैं, वह यह है कि जब साथियों के उत्तर दिखाए जाते हैं, तो मॉडल बेहतर प्रतिक्रिया उत्पन्न करते हैं, यहां तक कि अपूर्ण उत्तर भी। AlpacaEval 2.0 बेंचमार्क पर, पूरी तरह से ओपन-सोर्स मॉडल से निर्मित MoA ने कथित तौर पर GPT-4 ओमनी के स्कोर को पार कर लिया है, यह दर्शाता है कि विविध, सस्ते मॉडल का सावधानीपूर्वक एकत्रीकरण एक एकल फ्रंटियर सिस्टम को हरा सकता है।
वास्तविक विश्व कार्यान्वयन
प्रस्तावकों के रूप में तीन अलग-अलग खुले चैट मॉडलों को संयोजित करना, फिर एक बेहतर ग्राहक-सहायता उत्तर तैयार करने के लिए एक मजबूत एग्रीगेटर का उपयोग करना।
केवल ओपन-सोर्स मॉडल का उपयोग करके अल्पाकाएवल-शैली बेंचमार्क पर निर्देश-अनुसरण स्कोर को बढ़ावा देना।
कई मॉडलों से विविध कोड सुझावों को एक एकल, अधिक मजबूत फ़ंक्शन कार्यान्वयन में संयोजित करना।
एक ओपन-वेट पाइपलाइन चलाना जो गोपनीयता-संवेदनशील तैनाती के लिए सीमांत गुणवत्ता तक पहुंचता है जहां डेटा कंपनी के सर्वर को नहीं छोड़ सकता है।
एजेंटों के मिश्रण के एकत्रीकरण का भविष्य
उम्मीद है कि एमओए-शैली एकत्रीकरण फैल जाएगा क्योंकि अनुमान सस्ता हो जाएगा और ऑर्केस्ट्रेशन ढांचे परिपक्व हो जाएंगे। अनुसंधान निर्देशों में यह सीखना शामिल है कि प्रति क्वेरी (रूटिंग) के लिए किस प्रस्तावक पर भरोसा किया जाए, प्रस्तावकों को समानांतर में चलाकर विलंबता दंड को कम करना और कमजोर प्रस्तावकों को जल्दी से कम करना, और टूल-उपयोग एजेंटों के साथ एमओए को संयोजित करना ताकि एग्रीगेटर न केवल पाठ बल्कि कार्यों और पुनर्प्राप्त साक्ष्य को भी जोड़ सके। जैसे-जैसे खुले मॉडल बढ़ते हैं, उन्हें बुद्धिमानी से इकट्ठा करना एक भी विशाल मॉडल के बिना सीमांत स्तर की गुणवत्ता के लिए एक तेजी से व्यावहारिक मार्ग बन जाता है।
इसे व्यवहार में लाना
यह क्यों मायने रखता है?
- गति और पैमाना. भाषा वर्कफ़्लो निरंतरता से समझौता किए बिना तेज़ी से आगे बढ़ सकता है।
- पहुंच और पहुंच. यह सभी भाषाओं और संचार शैलियों तक पहुंच का विस्तार करता है।
- स्पष्ट निर्णय. टीमें निर्णय लेने में अधिक समय व्यतीत कर सकती हैं जबकि स्वचालन पुनरावृत्ति को संभालता है।
का ध्यान रखें
- मतिभ्रम वाले तथ्य चुपचाप रिपोर्ट में प्रवेश कर सकते हैं, प्रवाह का समर्थन कर सकते हैं, या अनुसंधान आउटपुट का समर्थन कर सकते हैं।
- त्वरित संवेदनशीलता समान अनुरोधों में असंगत परिणाम पैदा कर सकती है।
- यदि पहुंच नियंत्रण कमजोर हैं तो संवेदनशील पाठ डेटा उजागर हो सकता है।
अगले चरण
- रोलआउट से पहले आउटपुट स्वरूप, टोन और गुणवत्ता मानकों को परिभाषित करें।
- जब भी सटीकता मायने रखती है तो विश्वसनीय स्रोतों के साथ जमीनी प्रतिक्रियाएँ।
- उच्च जोखिम वाले आउटपुट के लिए एक मानव समीक्षा चेकपॉइंट रखें।
- विफलता पैटर्न को ट्रैक करें और संकेतों या वर्कफ़्लो को नियमित रूप से पुनः प्रशिक्षित करें।
अन्वेषण करते रहें
मुफ़्त न्यूज़लेटर
दैनिक एआई ब्रीफिंग प्राप्त करें
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
Take the Mixture-of-Agents Aggregation quiz
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
अक्सर पूछे जाने वाले प्रश्नों
What is Mixture-of-Agents Aggregation?
मिक्सचर-ऑफ-एजेंट्स (एमओए) एक ऐसी तकनीक है जहां कई भाषा मॉडल उत्तरों का मसौदा तैयार करते हैं और फिर एक एग्रीगेटर मॉडल उनके सर्वोत्तम विचारों को एक बेहतर प्रतिक्रिया में जोड़ता है। यह खुले मॉडलों की एक टीम को एकल शीर्ष स्तरीय मॉडल को प्रतिद्वंद्वी या हराने देता है।
एजेंटों के मिश्रण में, एग्रीगेटर मॉडल की क्या भूमिका है?
एग्रीगेटर सभी उम्मीदवारों की प्रतिक्रियाओं को पढ़ता है और एक मिश्रित, उच्च-गुणवत्ता वाला उत्तर तैयार करता है।
एमओए पेपर एलएलएम की किस प्रमुख संपत्ति पर निर्भर करता है?
लेखकों का मानना है कि जब मॉडल अन्य मॉडलों के ड्राफ्ट, यहां तक कि अपूर्ण ड्राफ्ट पर आधारित होते हैं तो अपने उत्तरों में सुधार करते हैं।
MoA साधारण बहुमत मतदान से किस प्रकार भिन्न है?
मतदान के विपरीत, MoA केवल एक मौजूदा उत्तर का चयन नहीं करता है; यह एक ताज़ा प्रतिक्रिया उत्पन्न करता है जो उम्मीदवारों को मिश्रित करता है।
MoA में प्रस्तावक मॉडलों के बीच विविधता मूल्यवान क्यों है?
विभिन्न प्रस्तावक अधिक जमीन को कवर करते हैं, जिससे एग्रीगेटर को विचारों का एक समृद्ध सेट मिलाने और त्रुटियों को फ़िल्टर करने के लिए मिलता है।
एमओए दृष्टिकोण की मुख्य व्यावहारिक लागत क्या है?
प्रत्येक परत अधिक एलएलएम कॉल जोड़ती है, इसलिए एमओए बेहतर उत्तर गुणवत्ता के लिए अतिरिक्त गणना और समय का आदान-प्रदान करता है।
सीखते रहो
संबंधित मार्गदर्शिकाएँ
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं