गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर
इलेक्ट्रा प्रीट्रेनिंग क्विज़
प्रतिस्थापित-टोकन का पता लगाना, जनरेटर और विभेदक भूमिकाएँ, टोकन स्थितियों में सीखना, और गणना तुलना की सीमाएँ समझाता है।
प्रश्न 1 का 8
इलेक्ट्रा नकाबपोश भाषा मॉडलिंग के बजाय किस पूर्व-प्रशिक्षण कार्य का उपयोग करता है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- इलेक्ट्रा नकाबपोश भाषा मॉडलिंग के बजाय किस पूर्व-प्रशिक्षण कार्य का उपयोग करता है?
- बदला गया टोकन डिटेक्शन
- अगले वाक्य की भविष्यवाणी
- स्वत: प्रतिगामी अगले शब्द की भविष्यवाणी
- क्रमपरिवर्तन भाषा मॉडलिंग
- इलेक्ट्रा BERT से अधिक गणना-कुशल क्यों है?
- यह बहुत छोटी शब्दावली का उपयोग करता है
- यह सभी टोकन पर सीखने के संकेत की गणना करता है, न कि केवल छिपे हुए टोकन पर
- यह केवल छिपे हुए 15% टोकन पर ही प्रशिक्षण देता है
- यह ध्यान तंत्र को पूरी तरह से छोड़ देता है
- इलेक्ट्रा में छोटा जनरेटर नेटवर्क क्या भूमिका निभाता है?
- यह गुणवत्ता के आधार पर अंतिम आउटपुट को रैंक करता है
- यह प्रशिक्षण के बाद मॉडल को संपीड़ित करता है
- यह विवेचक के निर्णय के लिए संभावित प्रतिस्थापन टोकन तैयार करता है
- यह भाषाओं के बीच पाठ का अनुवाद करता है
- प्रीट्रेनिंग पूरी होने के बाद जनरेटर का क्या होता है?
- इसे डाउनस्ट्रीम कार्य के लिए ठीक-ठीक तैयार किया गया है
- यह विवेचक के साथ विलीन हो जाता है
- यह पीढ़ी के लिए डिकोडर बन जाता है
- इसे त्याग दिया जाता है; केवल विवेचक का उपयोग किया जाता है
- ELECTRA मुख्य रूप से किस संगठन के शोधकर्ताओं द्वारा विकसित किया गया था?
- Google और स्टैनफोर्ड
- Meta AI और NYU
- OpenAI और Microsoft
- डीपमाइंड और ऑक्सफोर्ड
- बाद के किस मॉडल ने इलेक्ट्रा के प्रतिस्थापित-टोकन-पहचान विचार को आगे बढ़ाया?
- जीपीटी-2
- डेबर्टा-v3
- टी5
- Word2Vec
- What happens if ELECTRA’s generator proposes the original token at a position?
- It is always labeled replaced because the generator proposed it
- The position is removed from the input
- That token is treated as original by the discriminator’s replaced-token label
- The whole sequence is discarded
- When comparing ELECTRA with another pretraining method, what makes a compute claim meaningful?
- Compare model names alone
- Assume every ELECTRA run uses one fixed compute ratio
- Ignore generator training cost
- Specify model size, data, training budget, and evaluation setting