तकनीकी गाइड

समानांतर फ़ंक्शन कॉलिंग

समानांतर फ़ंक्शन कॉलिंग तब होती है जब एक भाषा मॉडल एक ही प्रतिक्रिया में कई टूल कॉल का अनुरोध करता है, इसलिए एप्लिकेशन उन्हें एक ही समय में चला सकता है और सभी परिणाम एक साथ लौटा सकता है।

इस गाइड को सुनेंएआई-नैरेटेड · ~3 min

इस पृष्ठ पर3 मिनट लाल
  1. सिंहावलोकन
  2. गहरा गोता
  3. वास्तविक विश्व कार्यान्वयन
  4. समानांतर फ़ंक्शन कॉलिंग का भविष्य
  5. इसे व्यवहार में लाना
  6. अन्वेषण करते रहें
  7. अक्सर पूछे जाने वाले प्रश्नों

सिंहावलोकन

यह मायने रखता है क्योंकि यह स्वतंत्र लुकअप के लिए राउंड ट्रिप और विलंबता को कम करता है, लेकिन यह केवल तभी सुरक्षित है जब कॉल एक-दूसरे पर निर्भर नहीं होते हैं और जब एप्लिकेशन ऑर्डरिंग, साइड इफेक्ट्स और आंशिक विफलताओं को सही ढंग से संभालता है।

गहरा गोता

बुनियादी टूल उपयोग में, एक मॉडल एक टूल मांगता है, ऐप उसे चलाता है, परिणाम देता है और मॉडल जारी रहता है। प्रत्येक चरण में एक पूर्ण मॉडल राउंड ट्रिप का खर्च आता है। समानांतर फ़ंक्शन कॉलिंग के साथ, मॉडल एक प्रतिक्रिया में एकाधिक टूल कॉल अनुरोध उत्सर्जित कर सकता है, प्रत्येक की अपनी पहचानकर्ता, नाम और तर्क होते हैं। एप्लिकेशन उन्हें अक्सर समवर्ती रूप से निष्पादित करता है, और प्रति कॉल एक परिणाम वापस भेजता है, प्रत्येक उसके पहचानकर्ता से जुड़ा होता है ताकि मॉडल को पता चले कि कौन सा परिणाम किस अनुरोध से संबंधित है। OpenAI ने 2023 के अंत में अपने एपीआई में समानांतर फ़ंक्शन कॉलिंग को जोड़ा, और अन्य प्रमुख प्रदाता एक बार में कई टूल कॉल का समर्थन करते हैं। कुछ एपीआई इस व्यवहार को बंद करने के लिए एक सेटिंग का खुलासा करते हैं जब किसी एप्लिकेशन को एक समय में केवल एक कॉल की आवश्यकता होती है। समानांतर कॉल तब सुरक्षित होती हैं जब वे स्वतंत्र होती हैं: ऐसे पाठ जो एक-दूसरे को प्रभावित नहीं करते हैं, जैसे कई रिकॉर्ड देखना या कई खोजें चलाना। वे जोखिम भरे होते हैं जब एक कॉल को दूसरे के आउटपुट की आवश्यकता होती है, या जब कॉल के साइड इफेक्ट होते हैं जो इंटरैक्ट करते हैं, जैसे कि एक ही रिकॉर्ड पर दो कॉल या चार्ज के बाद रिफंड। जिस क्रम में मॉडल कॉल सूचीबद्ध करता है वह गारंटीकृत निष्पादन आदेश नहीं है, और एप्लिकेशन उन्हें किसी भी क्रम में समाप्त कर सकता है। एक आम ग़लतफ़हमी यह है कि मॉडल उपकरणों को समानांतर में चलाता है। यदि ऐसा नहीं होता; यह केवल उनसे अनुरोध करता है। कॉनकरेंसी, टाइमआउट और पुनः प्रयास एप्लिकेशन की जिम्मेदारी हैं। एक और ग़लतफ़हमी यह है कि यदि एक कॉल विफल हो जाती है, तो पूरा बैच विफल हो जाता है। एक अच्छी तरह से निर्मित ऐप त्रुटियों सहित प्रत्येक परिणाम को व्यक्तिगत रूप से लौटाता है, इसलिए मॉडल जो सफल हुआ उसके साथ आगे बढ़ सकता है। निर्भर चरणों के लिए, मॉडल को पहले टूल को कॉल करना चाहिए, उसके परिणाम की प्रतीक्षा करनी चाहिए, फिर अगले को कॉल करना चाहिए। अच्छे टूल विवरण और सिस्टम निर्देश यह तय करने में मदद कर सकते हैं कि कब बैच करना है और कब अनुक्रम करना है।

वास्तविक विश्व कार्यान्वयन

एक यात्रा सहायक ने पेरिस, रोम और मैड्रिड में मौसम के बारे में पूछा तो एक बारी में तीन मौसम लुकअप जारी करता है, और ऐप उन्हें समवर्ती रूप से चलाता है।

एक बिक्री डैशबोर्ड एजेंट सारांश लिखने से पहले एक समानांतर बैच में ग्राहक के ऑर्डर, ओपन सपोर्ट टिकट और खाता नोट्स लाता है।

एक एजेंट ने एक फ़ोल्डर बनाने और फिर उसमें एक फ़ाइल लिखने के लिए कहा, दोनों कॉल को समानांतर में जारी नहीं करना चाहिए, क्योंकि लिखना मौजूदा फ़ोल्डर पर निर्भर करता है।

एक शोध एजेंट समानांतर में पांच खोजें भेजता है; दो टाइम आउट, और ऐप तीन परिणाम और दो स्पष्ट त्रुटि संदेश देता है ताकि मॉडल केवल विफल लोगों को पुनः प्रयास कर सके।

समानांतर फ़ंक्शन कॉलिंग का भविष्य

जैसे-जैसे एजेंट बड़े कार्य करते हैं, समानांतर उपकरण का उपयोग विलंबता को कम करने का एक नियमित तरीका बनता जा रहा है, और मॉडलों को यह पहचानने के लिए प्रशिक्षित किया जा रहा है कि कौन सी कॉल स्वतंत्र हैं। हार्नेस निर्भरता-जागरूक शेड्यूलिंग और संसाधन लॉकिंग जैसी सुविधाएं भी जोड़ रहे हैं ताकि बैच किए गए अनुरोधों को सुरक्षित रूप से निष्पादित किया जा सके। निर्भरता के बारे में मॉडल के फैसले में सुधार होने की संभावना है, लेकिन एप्लिकेशन साइड इफेक्ट्स, टाइमआउट और रिट्रीट पर सुरक्षा लागू करने के लिए जिम्मेदार रहेगा, क्योंकि ये वास्तविक सिस्टम पर निर्भर हैं जिन्हें मॉडल नहीं देख सकता है।

इसे व्यवहार में लाना

यह क्यों मायने रखता है?

  • लागत और बजट. वास्तुकला संबंधी निर्णय वर्षों तक प्रदर्शन और परिचालन लागत को संचालित करते हैं।
  • स्पष्ट निर्णय. तकनीकी शिक्षा टीमों को सही स्टैक चुनने में मदद करती है, न कि केवल नवीनतम स्टैक चुनने में।
  • गुणवत्ता नियंत्रण. बेहतर इंजीनियरिंग विकल्प उत्पादन में विश्वसनीयता की घटनाओं को कम करते हैं।

का ध्यान रखें

  • एक बेंचमार्क को अनुकूलित करने से व्यापक सिस्टम कमजोरियों को छुपाया जा सकता है।
  • बुनियादी ढांचे और रखरखाव की लागत को अक्सर कम करके आंका जाता है।
  • जैसे-जैसे सिस्टम अधिक जटिल होते जाएंगे सुरक्षा और अवलोकन संबंधी अंतराल बढ़ सकते हैं।

अगले चरण

  1. कार्यान्वयन से पहले विलंबता, गुणवत्ता और लागत लक्ष्य परिभाषित करें।
  2. यथार्थवादी लोड और डेटा स्थितियों के तहत बेंचमार्क।
  3. त्रुटियों, बहाव और उपयोगकर्ता प्रभाव के लिए उपकरण निगरानी।
  4. स्केलिंग से पहले रोलबैक और घटना प्रतिक्रिया पथ तैयार करें।

अन्वेषण करते रहें

मुफ़्त न्यूज़लेटर

दैनिक एआई ब्रीफिंग प्राप्त करें

हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।

प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।

स्वयं की जांच करो

Take the Parallel Function Calling quiz

प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।

प्रश्नोत्तरी प्रारंभ करें

निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें

अक्सर पूछे जाने वाले प्रश्नों

पैरेलल फंक्शन कॉलिंग क्या है?

समानांतर फ़ंक्शन कॉलिंग तब होती है जब एक भाषा मॉडल एक ही प्रतिक्रिया में कई टूल कॉल का अनुरोध करता है, इसलिए एप्लिकेशन उन्हें एक ही समय में चला सकता है और सभी परिणाम एक साथ लौटा सकता है। यह मायने रखता है क्योंकि यह स्वतंत्र लुकअप के लिए राउंड ट्रिप और विलंबता को कम करता है, लेकिन यह केवल तभी सुरक्षित है जब कॉल एक-दूसरे पर निर्भर नहीं होते हैं और जब एप्लिकेशन ऑर्डरिंग, साइड इफेक्ट्स और आंशिक विफलताओं को सही ढंग से संभालता है।

समानांतर फ़ंक्शन कॉल में, मॉडल एक प्रतिक्रिया में क्या लौटाता है?

मॉडल एक बार में कई टूल कॉल अनुरोध उत्सर्जित करता है, जिसे ऐप एक साथ चला सकता है।

वास्तव में उपकरण को समवर्ती रूप से कौन निष्पादित करता है?

मॉडल केवल कॉल का अनुरोध करता है; समवर्ती, समयबाह्य और पुनःप्रयास एप्लिकेशन का काम है।

कॉलों की कौन सी जोड़ी समानांतर में जारी नहीं की जानी चाहिए?

फ़ाइल लिखना मौजूदा फ़ोल्डर पर निर्भर करता है, इसलिए कॉल क्रम में चलनी चाहिए।

परिणामों का उनके टूल कॉल से मिलान कैसे किया जाना चाहिए?

समवर्ती कॉल अप्रत्याशित क्रम में समाप्त होती हैं, इसलिए पहचानकर्ता विश्वसनीय लिंक है।

पाँच समानांतर खोजों में से दो का समय समाप्त हो गया। सबसे अच्छी प्रतिक्रिया क्या है?

त्रुटियों सहित प्रत्येक परिणाम को व्यक्तिगत रूप से लौटाने से, मॉडल को जारी रखने और चयनात्मक रूप से पुनः प्रयास करने की सुविधा मिलती है।

सीखते रहो

संबंधित मार्गदर्शिकाएँ

इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं

निःशुल्क AI प्रमाणपत्र प्राप्त करेंएक संक्षिप्त निःशुल्क पाठ्यक्रम और परीक्षा। कोई कीमत नहीं, कोई कार्ड नहीं. लगभग 2.5 घंटे.निःशुल्क प्रारंभ करें →