भाषा एआई गाइड
लंबा संदर्भ बनाम आरएजी
लंबे संदर्भ का अर्थ है संपूर्ण दस्तावेज़ों को सीधे मॉडल की बड़ी संदर्भ विंडो में रखना, जबकि आरएजी प्रत्येक प्रश्न के लिए केवल सबसे प्रासंगिक अंश पुनर्प्राप्त करता है।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
इस पृष्ठ पर4 मिनट पढ़ें
सिंहावलोकन
लंबा संदर्भ अक्सर सरल और बेहतर होता है जब ज्ञान विंडो में फिट बैठता है और प्रश्नों को संपूर्ण-दस्तावेज़ दृश्य की आवश्यकता होती है; RAG आमतौर पर प्रति क्वेरी लागत, विलंबता, ताजगी, पैमाने और पहुंच नियंत्रण पर जीतता है। अधिकांश मजबूत प्रणालियाँ किसी एक को चुनने के बजाय दोनों को जोड़ती हैं।
गहरा गोता
कॉन्टेक्स्ट विंडो शुरुआती चैट मॉडल में कुछ हजार टोकन से बढ़कर सैकड़ों हजारों तक पहुंच गई, और 2024 में घोषित Google के Gemini 1.5 प्रो ने दस लाख टोकन की विंडो की पेशकश की। इसने एक स्पष्ट प्रश्न उठाया: यदि मॉडल संपूर्ण मैनुअल पढ़ सकता है, तो पुनर्प्राप्ति पाइपलाइन का निर्माण क्यों करें? उत्तर चार ट्रेड-ऑफ़ पर निर्भर करता है। लागत: प्रदाता प्रति इनपुट टोकन शुल्क लेते हैं, इसलिए प्रत्येक प्रश्न के साथ सैकड़ों-हजारों टोकन भेजने की लागत कुछ हजार प्रासंगिक टोकन भेजने की तुलना में कहीं अधिक होती है, हालांकि शीघ्र कैशिंग से बार-बार उपसर्ग की कीमत कम हो सकती है। विलंबता: मॉडल को उत्तर देने से पहले प्रत्येक इनपुट टोकन को संसाधित करना होगा, इसलिए पहले टोकन का समय संदर्भ लंबाई के साथ बढ़ता है। सटीकता: लंबा संदर्भ पुनर्प्राप्ति चूक से बचाता है, क्योंकि कुछ भी फ़िल्टर नहीं किया जाता है, और यह उन प्रश्नों को संभालता है जिनके लिए पूरे दस्तावेज़ की आवश्यकता होती है, जैसे विषयों का सारांश देना या अध्यायों की तुलना करना। लेकिन मॉडल सभी पदों का समान रूप से उपयोग नहीं करते हैं। 2023 के अध्ययन लॉस्ट इन द मिडल में पाया गया कि जब प्रासंगिक जानकारी लंबे इनपुट के बीच में बैठती है तो प्रदर्शन में गिरावट आती है, और सुई-इन-ए-हिस्टैक परीक्षण केवल साधारण लुकअप को मापते हैं, कई बिखरे हुए तथ्यों पर तर्क नहीं करते हैं। ताज़गी और पैमाना: RAG इंडेक्स को क्रमिक रूप से अपडेट किया जा सकता है, किसी भी विंडो की तुलना में कहीं अधिक दस्तावेज़ों को कवर किया जा सकता है, और जो पुनर्प्राप्त किया गया है उसे फ़िल्टर करके प्रति-उपयोगकर्ता पहुंच नियंत्रण का समर्थन किया जा सकता है। एक व्यावहारिक नियम: यदि ज्ञान खिड़की में आराम से फिट बैठता है, बार-बार पूछताछ की जाती है, और प्रश्नों को व्यापक समझ की आवश्यकता होती है, तो लंबा संदर्भ अक्सर सरल और बेहतर होता है। यदि कोष बड़ा है, बार-बार बदलता है, अनुमतियाँ हैं, या उद्धरणों के साथ सस्ते में उत्तर दिया जाना चाहिए, तो पुनः प्राप्त करें। आम ग़लतफ़हमी यह है कि एक दूसरे की जगह ले लेता है। कई मजबूत प्रणालियाँ उन्हें संयोजित करती हैं: दस्तावेज़ स्तर पर उदारतापूर्वक पुनर्प्राप्त करें, फिर छोटे टुकड़ों के बजाय संपूर्ण दस्तावेज़ों को शामिल करने के लिए एक लंबी विंडो का उपयोग करें।
वास्तविक विश्व कार्यान्वयन
एक वकील यह पूछने के लिए एक 300 पेज के विलय समझौते को एक लंबे-संदर्भ मॉडल में लोड करता है कि क्षतिपूर्ति की शर्तें सभी वर्गों में कैसे परस्पर क्रिया करती हैं, एक ऐसा प्रश्न जिसका बिखरे हुए पुनर्प्राप्त खंड खराब उत्तर देंगे।
लाखों सहायता लेखों वाला एक ग्राहक सहायता मंच, जो दैनिक रूप से बदलता है, RAG का उपयोग करता है, क्योंकि कोई भी संदर्भ विंडो कॉर्पस नहीं रखती है और सूचकांक को लेख दर लेख अद्यतन किया जा सकता है।
विभिन्न क्लीयरेंस स्तरों वाले कर्मचारियों की सेवा करने वाली एक कंपनी चैटबॉट अनुमति फ़िल्टर के साथ पुनर्प्राप्ति का उपयोग करती है, इसलिए प्रत्येक उपयोगकर्ता के प्रॉम्प्ट में केवल वे दस्तावेज़ होते हैं जिन्हें उन्हें देखने की अनुमति होती है।
एक शोध टीम दस सबसे अधिक प्रासंगिक पेपरों को पुनः प्राप्त करती है, फिर दोनों दृष्टिकोणों को मिलाकर प्रत्येक पूर्ण पेपर को छोटे टुकड़ों के बजाय एक लंबी संदर्भ विंडो में भेजती है।
लंबे संदर्भ बनाम आरएजी का भविष्य
बड़ी खिड़कियां और कैशिंग छूट छोटे और मध्यम कॉर्पोरा के लिए ब्रेक-ईवन बिंदु को लंबे संदर्भ की ओर ले जाती हैं। पुनर्प्राप्ति के गायब होने की संभावना नहीं है, क्योंकि कई संगठन किसी भी विंडो की तुलना में कहीं अधिक पाठ रखते हैं, उनका डेटा लगातार बदलता रहता है, और उन्हें प्रति-उपयोगकर्ता अनुमतियों और उद्धरणों की आवश्यकता होती है। अधिक संभावित दिशा सम्मिश्रण है: एजेंट यह तय करते हैं कि कब पुनर्प्राप्त करना है, एक बार पाए जाने पर पूरे दस्तावेज़ पढ़ें, और जो वे पुन: उपयोग करते हैं उसे कैश करें। मॉडलों को विश्वसनीय रूप से मध्य स्थिति का उपयोग करने और लंबे इनपुट के लिए सस्ते ध्यान देने पर अनुसंधान जारी है। क्योंकि कीमतें और मॉडल अक्सर बदलते रहते हैं, टीमों को समय-समय पर अपनी लागत और सटीकता की तुलना दोबारा करनी चाहिए।
इसे व्यवहार में लाना
यह क्यों मायने रखता है?
- गति और पैमाना. भाषा वर्कफ़्लो निरंतरता से समझौता किए बिना तेज़ी से आगे बढ़ सकता है।
- पहुंच और पहुंच. यह सभी भाषाओं और संचार शैलियों तक पहुंच का विस्तार करता है।
- स्पष्ट निर्णय. टीमें निर्णय लेने में अधिक समय व्यतीत कर सकती हैं जबकि स्वचालन पुनरावृत्ति को संभालता है।
का ध्यान रखें
- मतिभ्रम वाले तथ्य चुपचाप रिपोर्ट में प्रवेश कर सकते हैं, प्रवाह का समर्थन कर सकते हैं, या अनुसंधान आउटपुट का समर्थन कर सकते हैं।
- त्वरित संवेदनशीलता समान अनुरोधों में असंगत परिणाम पैदा कर सकती है।
- यदि पहुंच नियंत्रण कमजोर हैं तो संवेदनशील पाठ डेटा उजागर हो सकता है।
अगले चरण
- रोलआउट से पहले आउटपुट स्वरूप, टोन और गुणवत्ता मानकों को परिभाषित करें।
- जब भी सटीकता मायने रखती है तो विश्वसनीय स्रोतों के साथ जमीनी प्रतिक्रियाएँ।
- उच्च जोखिम वाले आउटपुट के लिए एक मानव समीक्षा चेकपॉइंट रखें।
- विफलता पैटर्न को ट्रैक करें और संकेतों या वर्कफ़्लो को नियमित रूप से पुनः प्रशिक्षित करें।
अन्वेषण करते रहें
मुफ़्त न्यूज़लेटर
दैनिक एआई ब्रीफिंग प्राप्त करें
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
Take the Long Context vs RAG quiz
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
अक्सर पूछे जाने वाले प्रश्नों
लॉन्ग कॉन्टेक्स्ट बनाम आरएजी क्या है?
लंबे संदर्भ का अर्थ है संपूर्ण दस्तावेज़ों को सीधे मॉडल की बड़ी संदर्भ विंडो में रखना, जबकि आरएजी प्रत्येक प्रश्न के लिए केवल सबसे प्रासंगिक अंश पुनर्प्राप्त करता है। लंबा संदर्भ अक्सर सरल और बेहतर होता है जब ज्ञान विंडो में फिट बैठता है और प्रश्नों को संपूर्ण-दस्तावेज़ दृश्य की आवश्यकता होती है; RAG आमतौर पर प्रति क्वेरी लागत, विलंबता, ताजगी, पैमाने और पहुंच नियंत्रण पर जीतता है। अधिकांश मजबूत प्रणालियाँ किसी एक को चुनने के बजाय दोनों को जोड़ती हैं।
दीर्घ-संदर्भ दृष्टिकोण की लागत आमतौर पर RAG की तुलना में प्रति क्वेरी अधिक क्यों होती है?
इनपुट टोकन के साथ लागत मापनी होती है, इसलिए हर बार एक संपूर्ण कॉर्पस भेजने में कुछ प्रासंगिक मार्ग भेजने की तुलना में बहुत अधिक लागत आती है।
2023 लॉस्ट इन द मिडल अध्ययन में क्या पाया गया?
मॉडलों ने बीच की जानकारी की तुलना में लंबे इनपुट के आरंभ और अंत में जानकारी का अधिक विश्वसनीय उपयोग किया।
भूसे के ढेर में सुई परीक्षण की प्रमुख सीमा क्या है?
किसी दस्तावेज़ में फैले कई तथ्यों को संयोजित करने की तुलना में एक रोपित तथ्य को ढूंढना आसान है।
लंबे संदर्भ में कौन सी स्थिति स्पष्ट रूप से आरएजी के पक्ष में है?
RAG किसी भी विंडो से परे स्केल करता है, क्रमिक रूप से अपडेट होता है, और अनुमति से परिणामों को फ़िल्टर कर सकता है।
लंबे कॉर्पस के साथ प्रॉम्प्ट कैशिंग का उपयोग करते समय, प्रॉम्प्ट को कैसे व्यवस्थित किया जाना चाहिए?
कैशिंग एक समान उपसर्ग का पुन: उपयोग करता है, इसलिए अपरिवर्तनीय सामग्री पहले आनी चाहिए।
सीखते रहो
संबंधित मार्गदर्शिकाएँ
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं