गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर

लंबा संदर्भ बनाम आरएजी प्रश्नोत्तरी

लागत, विलंबता, सटीकता और ताजगी पर लंबे संदर्भ और आरएजी की तुलना करें, जिसमें बीच में खो जाने वाला प्रभाव और हाइब्रिड डिज़ाइन शामिल हैं।

संबंधित मार्गदर्शक पथलंबा संदर्भ बनाम आरएजी
प्रश्न 1 का 8

दीर्घ-संदर्भ दृष्टिकोण की लागत आमतौर पर RAG की तुलना में प्रति क्वेरी अधिक क्यों होती है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. दीर्घ-संदर्भ दृष्टिकोण की लागत आमतौर पर RAG की तुलना में प्रति क्वेरी अधिक क्यों होती है?
    • प्रदाता प्रति इनपुट टोकन शुल्क लेते हैं, और लंबा संदर्भ कहीं अधिक टोकन भेजता है
    • लंबे-संदर्भ मॉडल के लिए एक वेक्टर डेटाबेस की आवश्यकता होती है
    • आरएजी हमेशा मुफ़्त है
    • लंबे संदर्भ के लिए प्रत्येक प्रश्न के लिए फाइन-ट्यूनिंग की आवश्यकता होती है
  2. 2023 लॉस्ट इन द मिडल अध्ययन में क्या पाया गया?
    • मॉडल प्रत्येक संकेत के पहले वाक्य को अनदेखा कर देते हैं
    • पुनर्प्राप्ति हमेशा लंबे संदर्भ पर आधारित होती है
    • जब प्रासंगिक जानकारी को लंबे इनपुट के बीच में रखा गया तो प्रदर्शन गिर गया
    • संदर्भ विंडो 4,000 टोकन से अधिक नहीं हो सकती
  3. भूसे के ढेर में सुई परीक्षण की प्रमुख सीमा क्या है?
    • वे केवल छवियों पर काम करते हैं
    • वे कई बिखरे हुए तथ्यों पर तर्क न करके सरल खोज को मापते हैं
    • इन्हें लंबे इनपुट पर नहीं चलाया जा सकता
    • वे लागत मापते हैं, सटीकता नहीं
  4. लंबे संदर्भ में कौन सी स्थिति स्पष्ट रूप से आरएजी के पक्ष में है?
    • एक संक्षिप्त नीति दस्तावेज़ के बारे में कई बार पूछताछ की गई
    • एक उपन्यास के विषयों का सारांश
    • एक रिपोर्ट के दो अध्यायों की तुलना करना
    • प्रति-उपयोगकर्ता पहुंच अनुमतियों के साथ एक बड़ा, बार-बार बदलता कोष
  5. लंबे कॉर्पस के साथ प्रॉम्प्ट कैशिंग का उपयोग करते समय, प्रॉम्प्ट को कैसे व्यवस्थित किया जाना चाहिए?
    • प्रश्न को पहले रखें और कोष को अंतिम में
    • प्रत्येक अनुरोध पर कोष में फेरबदल करें
    • स्थिर कोष को पहले और परिवर्तनशील प्रश्न को अंतिम में रखें
    • कॉर्पस को अलग-अलग अनुरोधों में विभाजित करें
  6. संदर्भ लंबाई के साथ पहले टोकन का समय क्यों बढ़ता है?
    • मॉडल को उत्तर देना शुरू करने से पहले प्रत्येक इनपुट टोकन को संसाधित करना होगा
    • धीमे नेटवर्क पर लंबे संकेत भेजे जाते हैं
    • मॉडल इंटरनेट से दस्तावेज़ पुनर्प्राप्त करता है
    • आउटपुट टोकन समानांतर में उत्पन्न होते हैं
  7. लंबा संदर्भ किस कार्य के लिए विशेष रूप से उपयुक्त है?
    • लाखों समर्थन लेख खोज रहे हैं
    • विभिन्न क्लीयरेंस स्तरों वाले उपयोगकर्ताओं को सेवा प्रदान करना
    • हर घंटे बदलते डेटा से उत्तर देना
    • संपूर्ण दस्तावेज़ में विषयों का सारांश
  8. लंबे संदर्भ और RAG का एक सामान्य मिश्रण कैसा दिखता है?
    • केवल छवियों के लिए RAG का उपयोग करना और केवल पाठ के लिए लंबे संदर्भ का उपयोग करना
    • प्रासंगिक दस्तावेज़ों को उदारतापूर्वक पुनः प्राप्त करना, फिर एक लंबी विंडो में संपूर्ण दस्तावेज़ों को शामिल करना
    • पुनर्प्राप्त खंडों पर मॉडल को फाइन-ट्यूनिंग करना
    • विषम और सम दिनों पर वैकल्पिक दृष्टिकोण