उपसर्ग ट्यूनिंग
प्रीफ़िक्स ट्यूनिंग प्रत्येक परत के इनपुट से जुड़े निरंतर वैक्टर के एक छोटे सेट को प्रशिक्षित करके जमे हुए भाषा मॉडल को अनुकूलित करने का एक पैरामीटर-कुशल तरीका है।
सिंहावलोकन
It lets you customize giant models for new tasks while updating less than 1% of parameters.
गहरा गोता
2021 में स्टैनफोर्ड के शोधकर्ताओं ली और लियांग द्वारा पेश की गई प्रीफ़िक्स ट्यूनिंग, एक पूर्व-प्रशिक्षित ट्रांसफार्मर को उसके वजन को छुए बिना अनुकूलित करती है। सभी मापदंडों को ठीक करने के बजाय, यह प्रत्येक ध्यान स्तर पर कुंजियों और मूल्यों के लिए प्रशिक्षित 'वर्चुअल टोकन' (उपसर्ग) का एक क्रम जोड़ता है। फ्रोजन मॉडल इस उपसर्ग को ऐसे संभालता है जैसे कि यह वास्तविक संदर्भ हो, अपने व्यवहार को लक्ष्य कार्य की ओर ले जाता है। क्योंकि केवल उपसर्ग वैक्टर सीखे जाते हैं, आप पूर्ण मॉडल प्रतिलिपि के बजाय प्रति कार्य एक छोटा उपसर्ग संग्रहीत कर सकते हैं। इससे कई कार्य सस्ते हो जाते हैं और पूर्ण फाइन-ट्यूनिंग के कारण भंडारण की बर्बादी से बचा जा सकता है। यह टेबल-टू-टेक्स्ट और सारांशीकरण जैसे जेनरेशन कार्यों पर विशेष रूप से अच्छा प्रदर्शन करता है, अक्सर उच्च-डेटा सेटिंग्स में पूर्ण फाइन-ट्यूनिंग से मेल खाता है।
तकनीकी अंतर्दृष्टि
प्रॉम्प्ट ट्यूनिंग के विपरीत, जो केवल इनपुट एम्बेडिंग परत पर वैक्टर जोड़ता है, उपसर्ग ट्यूनिंग प्रत्येक ट्रांसफार्मर परत के आत्म-ध्यान में प्रशिक्षित कुंजी/मूल्य वैक्टर को इंजेक्ट करता है। प्रशिक्षण को स्थिर करने के लिए, उपसर्ग आम तौर पर सीधे अनुकूलित करने के बजाय एक छोटे फ़ीड-फ़ॉरवर्ड नेटवर्क (एक पुनर्मूल्यांकन चाल) द्वारा उत्पन्न होता है; प्रशिक्षण के बाद उस नेटवर्क को छोड़ दिया जाता है, केवल सीखे गए उपसर्ग मैट्रिक्स को छोड़ दिया जाता है। केवल इन उपसर्ग मापदंडों को ग्रेडिएंट प्राप्त होते हैं - संपूर्ण रीढ़ जमी रहती है।
सामरिक प्रभाव
गति और पैमाना
भाषा वर्कफ़्लो निरंतरता से समझौता किए बिना तेज़ी से आगे बढ़ सकता है।
पहुंच और पहुंच
यह सभी भाषाओं और संचार शैलियों तक पहुंच का विस्तार करता है।
स्पष्ट निर्णय
टीमें निर्णय लेने में अधिक समय व्यतीत कर सकती हैं जबकि स्वचालन पुनरावृत्ति को संभालता है।
उपसर्ग ट्यूनिंग का भविष्य
प्रीफ़िक्स ट्यूनिंग ने पैरामीटर-कुशल फाइन-ट्यूनिंग (पीईएफटी) तरंग को लॉन्च करने में मदद की और हगिंग फेस पीईएफटी जैसे पुस्तकालयों में एक बिल्डिंग ब्लॉक बना हुआ है। जैसे-जैसे बेस मॉडल सैकड़ों अरबों मापदंडों में बढ़ते हैं, प्रीफ़िक्स जैसे हल्के एडेप्टर बहु-किरायेदार सेवा और ऑन-डिवाइस वैयक्तिकरण के लिए तेजी से आकर्षक होते जा रहे हैं। निरंतर हाइब्रिड दृष्टिकोण की अपेक्षा करें जो लोआरए-शैली निम्न-रैंक अपडेट के साथ उपसर्गों को मिश्रित करता है, और पूरे मॉडलों को फिर से प्रशिक्षित किए बिना शैली, व्यक्तित्व और सुरक्षा व्यवहार को नियंत्रित करने में बढ़ते उपयोग की अपेक्षा करता है।
वास्तविक विश्व कार्यान्वयन
WebNLG डेटासेट पर एक छोटे उपसर्ग को प्रशिक्षित करके टेबल-टू-टेक्स्ट पीढ़ी के लिए एक जमे हुए GPT-2 बैकबोन को अपनाना
एक ही साझा मॉडल से दर्जनों ग्राहक-विशिष्ट सारांश शैलियों की सेवा, प्रत्येक एक स्वैपेबल उपसर्ग फ़ाइल के रूप में
बेस वेट को पुनः प्रशिक्षित किए बिना किसी चैटबॉट के लिए भाषा मॉडल के लहज़े या व्यक्तित्व का संचालन करना
कम-डेटा डोमेन अनुकूलन, जैसे कि कानूनी या चिकित्सा पाठ पीढ़ी, जहां पूर्ण फाइन-ट्यूनिंग खत्म हो जाएगी
जोखिम और रेलिंग
मतिभ्रम वाले तथ्य चुपचाप रिपोर्ट में प्रवेश कर सकते हैं, प्रवाह का समर्थन कर सकते हैं, या अनुसंधान आउटपुट का समर्थन कर सकते हैं।
त्वरित संवेदनशीलता समान अनुरोधों में असंगत परिणाम पैदा कर सकती है।
यदि पहुंच नियंत्रण कमजोर हैं तो संवेदनशील पाठ डेटा उजागर हो सकता है।
कार्यान्वयन रोडमैप
रोलआउट से पहले आउटपुट स्वरूप, टोन और गुणवत्ता मानकों को परिभाषित करें।
जब भी सटीकता मायने रखती है तो विश्वसनीय स्रोतों के साथ जमीनी प्रतिक्रियाएँ।
उच्च जोखिम वाले आउटपुट के लिए एक मानव समीक्षा चेकपॉइंट रखें।
विफलता पैटर्न को ट्रैक करें और संकेतों या वर्कफ़्लो को नियमित रूप से पुनः प्रशिक्षित करें।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prefix Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
अस्वीकृति नमूनाकरण फ़ाइन-ट्यूनिंग
अक्सर पूछे जाने वाले प्रश्नों
What is Prefix Tuning?
प्रीफ़िक्स ट्यूनिंग प्रत्येक परत के इनपुट से जुड़े निरंतर वैक्टर के एक छोटे सेट को प्रशिक्षित करके जमे हुए भाषा मॉडल को अनुकूलित करने का एक पैरामीटर-कुशल तरीका है। यह आपको 1% से कम मापदंडों को अपडेट करते हुए नए कार्यों के लिए विशाल मॉडल को अनुकूलित करने देता है।
उपसर्ग ट्यूनिंग वास्तव में क्या प्रशिक्षित करती है?
उपसर्ग ट्यूनिंग रीढ़ की हड्डी को स्थिर कर देती है और निरंतर उपसर्ग वैक्टर का केवल एक छोटा सा सेट सीखती है, जिससे यह पैरामीटर-कुशल रहता है।
उपसर्ग वैक्टर कहाँ इंजेक्ट किए जाते हैं?
प्रीफ़िक्स ट्यूनिंग केवल इनपुट ही नहीं, बल्कि प्रत्येक ट्रांसफार्मर परत के आत्म-ध्यान पर प्रशिक्षित कुंजी/मूल्य वैक्टर को जोड़ता है।
प्रीफ़िक्स ट्यूनिंग की शुरुआत किसने और मोटे तौर पर कब की?
प्रीफ़िक्स ट्यूनिंग का प्रस्ताव 2021 में स्टैनफोर्ड में जियांग लिसा ली और पर्सी लियांग द्वारा किया गया था।
कई कार्यों को पूरा करने के लिए उपसर्ग ट्यूनिंग आकर्षक क्यों है?
क्योंकि केवल छोटा उपसर्ग ही कार्य-विशिष्ट है, आप पूरे मॉडल की नकल करने के बजाय प्रति कार्य एक छोटी फ़ाइल संग्रहीत करते हैं।
उपसर्ग प्रशिक्षण को स्थिर करने के लिए अक्सर किस युक्ति का उपयोग किया जाता है?
एक छोटा एमएलपी स्थिरता के लिए प्रशिक्षण के दौरान उपसर्ग उत्पन्न करता है, फिर उसे फेंक दिया जाता है, केवल सीखे गए उपसर्ग मैट्रिक्स को छोड़ दिया जाता है।