गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर
एक्सएलनेट क्रमपरिवर्तन मॉडलिंग प्रश्नोत्तरी
क्रमपरिवर्तन कारककरण, दो-धारा ध्यान, ट्रांसफार्मर-एक्सएल पुनरावृत्ति, और बेंचमार्क दावे तुलनीय सेटिंग्स पर कैसे निर्भर करते हैं, इसकी जांच करता है।
प्रश्न 1 का 8
XLNet किस पूर्व-प्रशिक्षण उद्देश्य का उपयोग करता है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- XLNet किस पूर्व-प्रशिक्षण उद्देश्य का उपयोग करता है?
- क्रमपरिवर्तन भाषा मॉडलिंग
- नकाबपोश भाषा मॉडलिंग
- बदला गया टोकन डिटेक्शन
- अगले वाक्य की भविष्यवाणी
- XLNet को किस BERT कमज़ोरी को संबोधित करने के लिए विशेष रूप से डिज़ाइन किया गया था?
- बर्ट बहुत छोटा था
- [MASK] टोकन प्रीट्रेन/फाइन-ट्यून बेमेल का कारण बनता है और मास्क्ड-टोकन स्वतंत्रता ग्रहण करता है
- BERT छोटे वाक्यों को संभाल नहीं सका
- BERT में स्थितीय एन्कोडिंग का अभाव था
- XLNet का दो-धारा आत्म-ध्यान क्या अलग करता है?
- एनकोडर और डिकोडर परतें
- प्रशिक्षण और अनुमान ग्राफ़
- एक सामग्री स्ट्रीम और एक क्वेरी स्ट्रीम
- टोकन और वाक्य एम्बेडिंग
- क्या XLNet किसी वाक्य में शब्दों को भौतिक रूप से बदलता है?
- हां, यह वास्तविक टोकन को बेतरतीब ढंग से पुन: व्यवस्थित करता है
- हां, लेकिन केवल फाइन-ट्यूनिंग के दौरान
- नहीं, यह कभी भी कोई ऑर्डर नहीं बदलता है
- नहीं, यह स्थिति बनाए रखते हुए ध्यान मास्क का उपयोग करके कारकीकरण क्रम को क्रमबद्ध करता है
- कौन सा आर्किटेक्चर लंबी दूरी के संदर्भ के लिए XLNet की रीढ़ के रूप में कार्य करता है?
- ट्रांसफार्मर-एक्सएल
- एलएसटीएम
- मूल वेनिला ट्रांसफार्मर
- संवादी नेटवर्क
- How does XLNet combine bidirectional context with autoregressive prediction?
- It predicts all tokens independently with no attention mask
- It predicts in sampled factorization orders without inserting a [MASK] input token, using attention masks
- It physically shuffles the sentence before every prediction
- It replaces autoregressive prediction with a denoising autoencoder
- For a token sequence A B C, suppose a sampled factorization order predicts C before A and B. What context is available when predicting C?
- The tokens A and B must always be provided first
- Only the next sentence is available
- No earlier tokens in that sampled order, although C remains at its original input position
- The input sequence is physically reordered to C A B
- How does XLNet prevent the target token from leaking into its own prediction query?
- It removes the target from the entire training sequence
- It uses the target’s label as an input embedding
- It replaces the token with a [MASK] symbol
- The query stream represents the target position without its token content