भाषा एआई गाइड
T5 और टेक्स्ट-टू-टेक्स्ट ट्रांसफर
T5 (टेक्स्ट-टू-टेक्स्ट ट्रांसफर ट्रांसफॉर्मर), 2019 में Google से, प्रत्येक एनएलपी कार्य, अनुवाद, सारांश, वर्गीकरण, यहां तक कि प्रतिगमन को टेक्स्ट में फीडिंग और टेक्स्ट आउट करने के रूप में रीफ्रेम करता है।
इस गाइड को सुनेंएआई-नैरेटेड · ~2 min
इस पृष्ठ पर2 मिनट लाल
सिंहावलोकन
This single unified format lets one model and one training recipe handle dozens of tasks.
गहरा गोता
T5 का केंद्रीय विचार यह है कि किसी भी भाषा कार्य को टेक्स्ट-टू-टेक्स्ट के रूप में डाला जा सकता है: इनपुट एक कार्य उपसर्ग के साथ एक स्ट्रिंग है, और आउटपुट हमेशा एक स्ट्रिंग होता है। अनुवाद जर्मन पाठ का निर्माण करते हुए 'अंग्रेजी से जर्मन में अनुवाद करें: ...' बन जाता है; भावना 'sst2 वाक्य:...' बन जाती है जिससे शाब्दिक शब्द 'सकारात्मक' या 'नकारात्मक' उत्पन्न होता है। यह केवल-एनकोडर BERT या केवल-डिकोडर GPT के विपरीत, एक पूर्ण एनकोडर-डिकोडर ट्रांसफार्मर का उपयोग करता है। T5 को स्पैन-करप्शन उद्देश्य के साथ C4 कॉर्पस (कोलोसल क्लीन क्रॉल्ड कॉर्पस, ~ 750GB साफ वेब टेक्स्ट) पर पूर्व-प्रशिक्षित किया गया था: टोकन के यादृच्छिक स्पैन को मास्क किया जाता है और सेंटिनल टोकन के साथ बदल दिया जाता है, और मॉडल लापता स्पैन उत्पन्न करना सीखता है। साथ में किए गए अध्ययन में व्यवस्थित रूप से आर्किटेक्चर, उद्देश्यों और डेटासेट आकारों की तुलना की गई ताकि यह पता लगाया जा सके कि कौन सा स्थानान्तरण सबसे अच्छा है।
वास्तविक विश्व कार्यान्वयन
सार संक्षेप: किसी लेख से पहले 'सारांश:' उपसर्ग लगाने से T5 अपने शब्दों में एक संक्षिप्त सारांश उत्पन्न करता है।
मशीनी अनुवाद: एक एकल T5 मॉडल 'अंग्रेजी से फ़्रेंच में अनुवाद करें:' जैसे उपसर्गों के माध्यम से कई भाषा युग्मों को संभालता है।
FLAN-T5 कार्य-विशिष्ट पुनर्प्रशिक्षण के बिना प्रश्न उत्तर देने और तर्क करने के लिए प्राकृतिक-भाषा निर्देशों का पालन करता है।
बंद-किताब वाले प्रश्नों का उत्तर देना: T5 तथ्यात्मक प्रश्नों का उत्तर सीधे उत्पन्न पाठ के रूप में देता है, जो इसके भार में संग्रहीत ज्ञान पर आधारित होता है।
T5 और टेक्स्ट-टू-टेक्स्ट ट्रांसफर का भविष्य
टेक्स्ट-टू-टेक्स्ट प्रतिमान बेहद प्रभावशाली हो गया: FLAN-T5 जैसे निर्देश-ट्यूनेड वंशज प्राकृतिक-भाषा निर्देशों से अनदेखे कार्यों को सामान्यीकृत करते हैं, और एकीकृत प्रारूप ने आज के त्वरित-संचालित बड़े भाषा मॉडल का पूर्वाभास दिया। संक्षेपण, अनुवाद और संरचित पीढ़ी के लिए टी5 एनकोडर-डिकोडर के निरंतर उपयोग की अपेक्षा करें, साथ ही एमटी5 जैसे बहुभाषी वेरिएंट और दक्षता-केंद्रित उत्तराधिकारी, भले ही डिकोडर-केवल मॉडल ओपन-एंडेड चैट अनुप्रयोगों पर हावी हों।
इसे व्यवहार में लाना
यह क्यों मायने रखता है?
- गति और पैमाना. भाषा वर्कफ़्लो निरंतरता से समझौता किए बिना तेज़ी से आगे बढ़ सकता है।
- पहुंच और पहुंच. यह सभी भाषाओं और संचार शैलियों तक पहुंच का विस्तार करता है।
- स्पष्ट निर्णय. टीमें निर्णय लेने में अधिक समय व्यतीत कर सकती हैं जबकि स्वचालन पुनरावृत्ति को संभालता है।
का ध्यान रखें
- मतिभ्रम वाले तथ्य चुपचाप रिपोर्ट में प्रवेश कर सकते हैं, प्रवाह का समर्थन कर सकते हैं, या अनुसंधान आउटपुट का समर्थन कर सकते हैं।
- त्वरित संवेदनशीलता समान अनुरोधों में असंगत परिणाम पैदा कर सकती है।
- यदि पहुंच नियंत्रण कमजोर हैं तो संवेदनशील पाठ डेटा उजागर हो सकता है।
अगले चरण
- रोलआउट से पहले आउटपुट स्वरूप, टोन और गुणवत्ता मानकों को परिभाषित करें।
- जब भी सटीकता मायने रखती है तो विश्वसनीय स्रोतों के साथ जमीनी प्रतिक्रियाएँ।
- उच्च जोखिम वाले आउटपुट के लिए एक मानव समीक्षा चेकपॉइंट रखें।
- विफलता पैटर्न को ट्रैक करें और संकेतों या वर्कफ़्लो को नियमित रूप से पुनः प्रशिक्षित करें।
अन्वेषण करते रहें
मुफ़्त न्यूज़लेटर
दैनिक एआई ब्रीफिंग प्राप्त करें
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
Take the T5 and Text-to-Text Transfer quiz
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
अक्सर पूछे जाने वाले प्रश्नों
What is T5 and Text-to-Text Transfer?
T5 (टेक्स्ट-टू-टेक्स्ट ट्रांसफर ट्रांसफॉर्मर), 2019 में Google से, प्रत्येक एनएलपी कार्य, अनुवाद, सारांश, वर्गीकरण, यहां तक कि प्रतिगमन को टेक्स्ट में फीडिंग और टेक्स्ट आउट करने के रूप में रीफ्रेम करता है। यह एकल एकीकृत प्रारूप एक मॉडल और एक प्रशिक्षण रेसिपी को दर्जनों कार्य संभालने देता है।
T5 के पीछे परिभाषित विचार क्या है?
T5 कार्य उपसर्गों का उपयोग करके अनुवाद, सारांश, वर्गीकरण और बहुत कुछ को एकल टेक्स्ट-टू-टेक्स्ट प्रारूप में प्रस्तुत करता है।
T5 किस ट्रांसफार्मर आर्किटेक्चर का उपयोग करता है?
एनकोडर-ओनली BERT या डिकोडर-ओनली GPT के विपरीत, T5 क्रॉस-अटेंशन के साथ एक पूर्ण एनकोडर-डिकोडर ट्रांसफार्मर का उपयोग करता है।
T5 मुख्य रूप से किस पूर्व-प्रशिक्षण उद्देश्य का उपयोग करता है?
T5 टोकन के यादृच्छिक स्पैन को मास्क करता है, प्रत्येक को एक सेंटिनल से बदलता है, और डिकोडर को लापता स्पैन को पुन: उत्पन्न करने के लिए प्रशिक्षित करता है।
T5 को किस कॉर्पस पर पूर्व प्रशिक्षित किया गया था?
T5 को C4 पर प्रशिक्षित किया गया था, जो सामान्य क्रॉल वेब टेक्स्ट का लगभग 750GB साफ़ किया गया सबसेट है।
T5 भावना विश्लेषण जैसे वर्गीकरण कार्य का प्रतिनिधित्व कैसे करता है?
चूँकि सब कुछ टेक्स्ट-टू-टेक्स्ट है, T5 एक संख्यात्मक वर्ग सूचकांक के बजाय क्लास लेबल को एक शब्द स्ट्रिंग के रूप में उत्सर्जित करता है।
सीखते रहो
संबंधित मार्गदर्शिकाएँ
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं