शीघ्र ट्यूनिंग
प्रॉम्प्ट ट्यूनिंग हाथ से शब्दों को लिखने के बजाय, इनपुट से जुड़े मुट्ठी भर निरंतर 'सॉफ्ट प्रॉम्प्ट' वैक्टर को सीखकर एक जमे हुए भाषा मॉडल को अनुकूलित करती है।
सिंहावलोकन
It is one of the leanest ways to specialize a giant model, and it gets better as models get bigger.
गहरा गोता
Google शोधकर्ताओं लेस्टर, अल-रफौ और कॉन्स्टेंट द्वारा 2021 में पेश की गई प्रॉम्प्ट ट्यूनिंग, उपसर्ग ट्यूनिंग का सबसे सरल चचेरा भाई है। टेक्स्ट प्रॉम्प्ट को मैन्युअल रूप से तैयार करने के बजाय, आप पूरे मॉडल को फ्रीज कर देते हैं और निरंतर एम्बेडिंग का एक छोटा मैट्रिक्स सीखते हैं - 'सॉफ्ट प्रॉम्प्ट' - जो केवल इनपुट लेयर पर प्रीपेड होते हैं। ग्रेडिएंट डिसेंट किसी कार्य के लिए सही व्यवहार को तैयार करने के लिए इन वैक्टरों को ट्यून करता है। एक आश्चर्यजनक खोज: जैसे ही आधार मॉडल अरबों मापदंडों की ओर बढ़ता है, त्वरित ट्यूनिंग पूर्ण फाइन-ट्यूनिंग के साथ अंतर को बंद कर देती है, अंततः इसे सुपरग्लू जैसे बेंचमार्क पर मिलान करती है। प्रत्येक कार्य को केवल अपने स्वयं के छोटे सॉफ्ट प्रॉम्प्ट (अक्सर कुछ हजार पैरामीटर) की आवश्यकता होती है, इसलिए एक एकल जमे हुए मॉडल एक साथ कई कार्यों को पूरा कर सकता है। लेखकों ने इसे 'पैरामीटर-कुशल शीघ्र ट्यूनिंग के लिए पैमाने की शक्ति' के रूप में तैयार किया।
तकनीकी अंतर्दृष्टि
सॉफ्ट प्रॉम्प्ट वास्तविक शब्द नहीं हैं - वे एम्बेडिंग स्पेस में फ्री-फ़्लोटिंग वेक्टर हैं जिन्हें शब्दावली में किसी भी टोकन के अनुरूप होने की आवश्यकता नहीं है। उन्हें केवल इनपुट एम्बेडिंग परत पर जोड़ा जाता है (उपसर्ग ट्यूनिंग के विपरीत, जो हर परत में इंजेक्ट होता है), जिससे त्वरित ट्यूनिंग और भी आसान हो जाती है। क्योंकि मॉडल फ़्रीज़ हो गया है, ग्रेडिएंट केवल सॉफ्ट-प्रॉम्प्ट एम्बेडिंग पर वापस प्रवाहित होते हैं। आरंभीकरण, त्वरित लंबाई और मॉडल स्केल सभी गुणवत्ता को दृढ़ता से प्रभावित करते हैं।
सामरिक प्रभाव
गति और पैमाना
भाषा वर्कफ़्लो निरंतरता से समझौता किए बिना तेज़ी से आगे बढ़ सकता है।
पहुंच और पहुंच
यह सभी भाषाओं और संचार शैलियों तक पहुंच का विस्तार करता है।
स्पष्ट निर्णय
टीमें निर्णय लेने में अधिक समय व्यतीत कर सकती हैं जबकि स्वचालन पुनरावृत्ति को संभालता है।
शीघ्र ट्यूनिंग का भविष्य
त्वरित ट्यूनिंग ने इस विचार को लोकप्रिय बना दिया कि आप छोटे सीखे गए संकेतों के साथ जमे हुए फाउंडेशन मॉडल को चला सकते हैं, और यह आज के पीईएफटी टूलकिट का अधिकांश हिस्सा है। जैसे-जैसे मॉडल स्केल करते रहते हैं, गैप-क्लोजिंग प्रभाव सस्ते मल्टी-टास्क परिनियोजन के लिए सॉफ्ट प्रॉम्प्ट को आकर्षक बनाता है। अनुसंधान कार्यों और मॉडलों में सीखने योग्य संकेतों को स्थानांतरित करने, उन्हें पुनर्प्राप्ति के साथ संयोजित करने और नियंत्रणीय और सुरक्षित पीढ़ी के लिए उनका उपयोग करने के विचार का विस्तार कर रहा है। उम्मीद करें कि लोआरए और एडॉप्टर के साथ-साथ सॉफ्ट प्रॉम्प्ट भी कम लागत वाला लीवर बना रहेगा।
वास्तविक विश्व कार्यान्वयन
कई SuperGLUE कार्यों के लिए एक जमे हुए T5 मॉडल को विशिष्ट बनाना, प्रति कार्य एक अलग सॉफ्ट प्रॉम्प्ट संग्रहीत करना
सस्ते में एक ही बड़े मॉडल को कई ग्राहकों के बीच तैनात करना, जिनमें से प्रत्येक का अपना सीखा हुआ संकेत हो
मैन्युअल इंजीनियरिंग शब्दों के बिना संचालन भावना या वर्गीकरण व्यवहार
सॉफ्ट-प्रॉम्प्ट ट्रांसफर: संबंधित कार्य पर सीखना शुरू करने के लिए एक कार्य पर एक संकेत को पूर्व-प्रशिक्षित करना
जोखिम और रेलिंग
मतिभ्रम वाले तथ्य चुपचाप रिपोर्ट में प्रवेश कर सकते हैं, प्रवाह का समर्थन कर सकते हैं, या अनुसंधान आउटपुट का समर्थन कर सकते हैं।
त्वरित संवेदनशीलता समान अनुरोधों में असंगत परिणाम पैदा कर सकती है।
यदि पहुंच नियंत्रण कमजोर हैं तो संवेदनशील पाठ डेटा उजागर हो सकता है।
कार्यान्वयन रोडमैप
रोलआउट से पहले आउटपुट स्वरूप, टोन और गुणवत्ता मानकों को परिभाषित करें।
जब भी सटीकता मायने रखती है तो विश्वसनीय स्रोतों के साथ जमीनी प्रतिक्रियाएँ।
उच्च जोखिम वाले आउटपुट के लिए एक मानव समीक्षा चेकपॉइंट रखें।
विफलता पैटर्न को ट्रैक करें और संकेतों या वर्कफ़्लो को नियमित रूप से पुनः प्रशिक्षित करें।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prompt Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
Prompt Engineering
अक्सर पूछे जाने वाले प्रश्नों
What is Prompt Tuning?
प्रॉम्प्ट ट्यूनिंग हाथ से शब्दों को लिखने के बजाय, इनपुट से जुड़े मुट्ठी भर निरंतर 'सॉफ्ट प्रॉम्प्ट' वैक्टर को सीखकर एक जमे हुए भाषा मॉडल को अनुकूलित करती है। यह एक विशाल मॉडल को विशेषज्ञ बनाने के सबसे आसान तरीकों में से एक है, और जैसे-जैसे मॉडल बड़े होते जाते हैं यह बेहतर होता जाता है।
प्रॉम्प्ट ट्यूनिंग में 'सॉफ्ट प्रॉम्प्ट' क्या है?
सॉफ्ट प्रॉम्प्ट एम्बेडिंग स्पेस में प्रशिक्षित करने योग्य निरंतर वेक्टर हैं, मानव-पठनीय शब्द नहीं।
प्रॉम्प्ट ट्यूनिंग अपने प्रशिक्षण योग्य वैक्टर को कहाँ जोड़ती है?
प्रॉम्प्ट ट्यूनिंग केवल इनपुट पर सॉफ्ट प्रॉम्प्ट को प्रीपेंड करती है, जो इसे प्रीफ़िक्स ट्यूनिंग की तुलना में हल्का बनाती है।
मूल पेपर ने मॉडल स्केल के बारे में किस आश्चर्यजनक प्रभाव पर प्रकाश डाला?
पेपर के शीर्षक में 'पैमाने की शक्ति' पर जोर दिया गया: बड़े मॉडल त्वरित ट्यूनिंग प्रतिद्वंद्वी को पूर्ण फाइन-ट्यूनिंग देते हैं।
शीघ्र ट्यूनिंग की शुरुआत किसने की?
Google में ब्रायन लेस्टर, रामी अल-रफौ और नोआ कॉन्स्टेंट ने 2021 में प्रॉम्प्ट ट्यूनिंग पेपर प्रकाशित किया।
त्वरित ट्यूनिंग एक मॉडल से कई कार्यों को कैसे पूरा करने में सक्षम बनाती है?
केवल एक छोटा सा सॉफ्ट प्रॉम्प्ट कार्य-विशिष्ट होता है, इसलिए एक फ्रोजन मॉडल संकेतों की अदला-बदली करके कई कार्यों की मेजबानी कर सकता है।