भाषा एआई गाइड

प्रसंग अभियांत्रिकी

संदर्भ इंजीनियरिंग यह तय करने का अभ्यास है कि एक भाषा मॉडल प्रत्येक चरण (निर्देश, पुनर्प्राप्त दस्तावेज़, टूल परिभाषाएं और परिणाम, वार्तालाप इतिहास और स्मृति) पर क्या देखता है और इसे एक सीमित संदर्भ विंडो में फिट करता है।

इस गाइड को सुनेंएआई-नैरेटेड · ~3 min

इस पृष्ठ पर4 मिनट पढ़ें
  1. सिंहावलोकन
  2. गहरा गोता
  3. वास्तविक विश्व कार्यान्वयन
  4. संदर्भ इंजीनियरिंग का भविष्य
  5. इसे व्यवहार में लाना
  6. अन्वेषण करते रहें
  7. अक्सर पूछे जाने वाले प्रश्नों

सिंहावलोकन

यह त्वरित शब्दों से कहीं आगे जाता है। यह मायने रखता है क्योंकि आउटपुट गुणवत्ता काफी हद तक इस बात पर निर्भर करती है कि विंडो में क्या है, और एजेंटों और लंबे कार्यों में वह संदर्भ प्रत्येक कॉल पर कोड द्वारा इकट्ठा किया जाता है, किसी व्यक्ति द्वारा एक बार टाइप नहीं किया जाता है।

गहरा गोता

प्रॉम्प्ट इंजीनियरिंग एकल अनुरोध को शब्दों में लिखने पर केंद्रित है। संदर्भ इंजीनियरिंग एक व्यापक दृष्टिकोण अपनाती है। मॉडल को टोकन का एक क्रम प्राप्त होता है, और इसमें मौजूद हर चीज़ स्थान के लिए और मॉडल का ध्यान आकर्षित करने के लिए प्रतिस्पर्धा करती है। उस अनुक्रम में आमतौर पर एक सिस्टम प्रॉम्प्ट, टूल परिभाषाएँ, पुनर्प्राप्त मार्ग, पूर्व मोड़, टूल आउटपुट और कभी-कभी दीर्घकालिक मेमोरी शामिल होती है। यह शब्द 2025 में आम हो गया, जब टीम निर्माण एजेंटों ने पाया कि मॉडल में कई विफलताएं खराब वाक्यांशों के बजाय गलत जानकारी, बहुत अधिक या परस्पर विरोधी जानकारी होने के कारण आईं। कई सिद्धांतों का पालन होता है. सबसे पहले, प्रासंगिकता मात्रा को मात देती है। कुछ मॉडल सैकड़ों-हजारों टोकन स्वीकार करते हैं, लेकिन वे प्रत्येक टोकन का समान रूप से उपयोग नहीं करते हैं। 'बीच में खो गया' अध्ययन (लियू एट अल., 2023) में पाया गया कि मॉडल अक्सर लंबे इनपुट के आरंभ और अंत में जानकारी का उपयोग बीच में छिपी जानकारी से बेहतर करते हैं। दूसरा, संदर्भ एक बजट है। प्रत्येक टोकन में पैसा खर्च होता है और विलंबता जुड़ती है, और अप्रासंगिक सामग्री मॉडल को विचलित कर सकती है। तीसरा, संरचना मदद करती है. स्पष्ट अनुभाग, लेबल किए गए दस्तावेज़ और सुसंगत प्रारूप मॉडल के लिए यह ढूंढना आसान बनाते हैं कि क्या मायने रखता है। सामान्य तकनीकों में शामिल हैं: - पुनर्प्राप्ति-संवर्धित पीढ़ी, जो केवल प्रासंगिक मार्ग लाती है - सही समय पर लोड हो रही है, जहां एक एजेंट फ़ाइल नाम या आईडी जैसे हल्के संदर्भ रखता है और जरूरत पड़ने पर पूरी सामग्री खींचने के लिए टूल का उपयोग करता है - संरचित नोट-टेकिंग जो स्थिति को खिड़की के बाहर रखता है - लंबे इतिहास का संकलन - उप-एजेंट जो अपने स्वयं के संदर्भ में खोज करते हैं और संक्षिप्त निष्कर्ष लौटाते हैं एक गलत धारणा यह है कि संदर्भ इंजीनियरिंग संकेत देने के लिए सिर्फ एक नया नाम है। शब्दांकन इसका एक हिस्सा है, लेकिन अधिकांश काम सिस्टम डिज़ाइन का है: यह तय करना कि क्या पुनर्प्राप्त किया जाएगा, सारांशित किया जाएगा या छोड़ा जाएगा, और यह किस क्रम में दिखाई देगा। एक और ग़लतफ़हमी यह है कि बड़ी विंडो इसकी आवश्यकता को ख़त्म कर देती है। बड़ी खिड़की से दबाव कम होता है, लेकिन लागत और ध्यान की सीमा बनी रहती है।

वास्तविक विश्व कार्यान्वयन

एक ग्राहक सहायता बॉट केवल तीन सबसे प्रासंगिक सहायता-केंद्र लेख और ग्राहक की योजना स्तर को पुनः प्राप्त करता है। यह संपूर्ण ज्ञानकोष को प्रत्येक अनुरोध में पेस्ट नहीं करता है।

एक कोडिंग एजेंट फ़ाइल पथों और फ़ंक्शन हस्ताक्षरों की एक सूची के साथ शुरू होता है, फिर पूर्ण फ़ाइलों को लोड करने के लिए रीड-फ़ाइल टूल का उपयोग केवल तब करता है जब उसे उनकी आवश्यकता होती है।

एक मीटिंग सहायक निर्णयों और कार्रवाई आइटमों को एक संरचित नोट्स फ़ाइल में सहेजता है और प्रत्येक पिछले प्रतिलेख को दोबारा चलाने के बजाय, उस फ़ाइल को अगले सत्र में पुनः लोड करता है।

एक टीम डेटाबेस टूल को बदल देती है, इसलिए यह कच्चे JSON की 5,000 पंक्तियों के बजाय पंक्ति गणना के साथ फ़िल्टर किया गया सारांश लौटाता है। यह एजेंट की विंडो को उस डेटा से भरने से रोकता है जिसका वह कभी उपयोग नहीं करेगा।

संदर्भ इंजीनियरिंग का भविष्य

संदर्भ विंडो तेजी से विकसित हुई हैं, और मॉडल लंबे इनपुट का उपयोग करने में बेहतर हो रहे हैं। लागत, विलंबता और ध्यान सीमाएं अभी भी यह चुनना महत्वपूर्ण बनाती हैं कि क्या किया जाए। इस काम का अधिक हिस्सा फ्रेमवर्क और प्लेटफार्मों में जा रहा है, और कई प्रदाता पहले से ही अंतर्निहित मेमोरी टूल, स्वचालित संपीड़न और प्रबंधित पुनर्प्राप्ति प्रदान करते हैं। एक एजेंट को क्या याद रखना चाहिए, क्या लाना चाहिए या क्या भूल जाना चाहिए, इसके लिए कौशल को हाथ से संदर्भ को इकट्ठा करने से लेकर नीतियों को डिजाइन करने और फिर उन नीतियों का परीक्षण करने की संभावना है। यह एक खुला प्रश्न है कि क्या भविष्य के मॉडल डिज़ाइनों को कम सावधानीपूर्वक निर्माण की आवश्यकता होगी। अभी के लिए, जानबूझकर डिज़ाइन किया गया संदर्भ मॉडल आउटपुट को बेहतर बनाने के सबसे विश्वसनीय तरीकों में से एक है।

इसे व्यवहार में लाना

यह क्यों मायने रखता है?

  • गति और पैमाना. भाषा वर्कफ़्लो निरंतरता से समझौता किए बिना तेज़ी से आगे बढ़ सकता है।
  • पहुंच और पहुंच. यह सभी भाषाओं और संचार शैलियों तक पहुंच का विस्तार करता है।
  • स्पष्ट निर्णय. टीमें निर्णय लेने में अधिक समय व्यतीत कर सकती हैं जबकि स्वचालन पुनरावृत्ति को संभालता है।

का ध्यान रखें

  • मतिभ्रम वाले तथ्य चुपचाप रिपोर्ट में प्रवेश कर सकते हैं, प्रवाह का समर्थन कर सकते हैं, या अनुसंधान आउटपुट का समर्थन कर सकते हैं।
  • त्वरित संवेदनशीलता समान अनुरोधों में असंगत परिणाम पैदा कर सकती है।
  • यदि पहुंच नियंत्रण कमजोर हैं तो संवेदनशील पाठ डेटा उजागर हो सकता है।

अगले चरण

  1. रोलआउट से पहले आउटपुट स्वरूप, टोन और गुणवत्ता मानकों को परिभाषित करें।
  2. जब भी सटीकता मायने रखती है तो विश्वसनीय स्रोतों के साथ जमीनी प्रतिक्रियाएँ।
  3. उच्च जोखिम वाले आउटपुट के लिए एक मानव समीक्षा चेकपॉइंट रखें।
  4. विफलता पैटर्न को ट्रैक करें और संकेतों या वर्कफ़्लो को नियमित रूप से पुनः प्रशिक्षित करें।

अन्वेषण करते रहें

मुफ़्त न्यूज़लेटर

दैनिक एआई ब्रीफिंग प्राप्त करें

हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।

प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।

स्वयं की जांच करो

Take the Context Engineering quiz

प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।

प्रश्नोत्तरी प्रारंभ करें

निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें

अक्सर पूछे जाने वाले प्रश्नों

कॉन्टेक्स्ट इंजीनियरिंग क्या है?

संदर्भ इंजीनियरिंग यह तय करने का अभ्यास है कि एक भाषा मॉडल प्रत्येक चरण (निर्देश, पुनर्प्राप्त दस्तावेज़, टूल परिभाषाएं और परिणाम, वार्तालाप इतिहास और स्मृति) पर क्या देखता है और इसे एक सीमित संदर्भ विंडो में फिट करता है। यह त्वरित शब्दों से कहीं आगे जाता है। यह मायने रखता है क्योंकि आउटपुट गुणवत्ता काफी हद तक इस बात पर निर्भर करती है कि विंडो में क्या है, और एजेंटों और लंबे कार्यों में वह संदर्भ प्रत्येक कॉल पर कोड द्वारा इकट्ठा किया जाता है, किसी व्यक्ति द्वारा एक बार टाइप नहीं किया जाता है।

संदर्भ इंजीनियरिंग को प्रॉम्प्ट इंजीनियरिंग से सबसे अच्छा क्या अलग करता है?

संदर्भ इंजीनियरिंग मॉडल द्वारा प्राप्त संपूर्ण टोकन अनुक्रम को डिज़ाइन करने के लिए कुछ के रूप में मानती है: निर्देश, पुनर्प्राप्त मार्ग, उपकरण परिभाषाएँ और आउटपुट, इतिहास और मेमोरी। शीघ्र शब्दांकन इसका केवल एक भाग है।

'बीच में खो गया' शोध लंबे इनपुट के बारे में क्या सुझाव देता है?

लियू एट अल. (2023) में पाया गया कि जब प्रासंगिक जानकारी लंबे संदर्भ के बीच में बैठती है तो प्रदर्शन अक्सर गिर जाता है। यही कारण है कि प्रासंगिकता और प्लेसमेंट केवल मात्रा से अधिक मायने रखते हैं।

गाइड संदर्भ को बजट के रूप में क्यों वर्णित करता है?

विंडो में टोकन की कीमत और प्रतिक्रिया समय में वास्तविक लागत होती है। अप्रासंगिक टोकन भी मॉडल के ध्यान के लिए प्रासंगिक टोकन के साथ प्रतिस्पर्धा करते हैं, इसलिए उन्हें जानबूझकर खर्च किया जाना चाहिए।

जस्ट-इन-टाइम लोडिंग क्या है?

सब कुछ पहले से लोड करने के बजाय, एजेंट पॉइंटर्स रखता है और पूर्ण सामग्री तभी खींचता है जब किसी चरण के लिए इसकी आवश्यकता होती है। इससे खिड़की झुकी रहती है.

स्थिर सामग्री, जैसे सिस्टम निर्देश और टूल परिभाषाएँ, को शुरुआत में एक निश्चित क्रम में रखना क्यों उपयोगी है?

जो प्रदाता शीघ्र कैशिंग का समर्थन करते हैं, वे एक उपसर्ग का पुन: उपयोग कर सकते हैं जो सभी कॉलों में बाइट-समान रहता है। स्थिर सामग्री को पहले रखना और बातचीत को अंतिम रूप से बदलना इसे संभव बनाता है।

सीखते रहो

संबंधित मार्गदर्शिकाएँ

इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं

निःशुल्क AI प्रमाणपत्र प्राप्त करेंएक संक्षिप्त निःशुल्क पाठ्यक्रम और परीक्षा। कोई कीमत नहीं, कोई कार्ड नहीं. लगभग 2.5 घंटे.निःशुल्क प्रारंभ करें →