গাইড লিঙ্ক ক্যুইজ · কঠিন স্তর
XLNet পারমুটেশন মডেলিং কুইজ
পারমুটেশন ফ্যাক্টরাইজেশন, টু-স্ট্রীম অ্যাটেনশন, ট্রান্সফরমার-এক্সএল পুনরাবৃত্তি এবং বেঞ্চমার্ক দাবিগুলি তুলনামূলক সেটিংসের উপর কীভাবে নির্ভর করে তা পরীক্ষা করে।
প্রশ্ন 1 এর 8
XLNet কোন প্রিট্রেইনিং উদ্দেশ্য ব্যবহার করে?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- XLNet কোন প্রিট্রেইনিং উদ্দেশ্য ব্যবহার করে?
- পারমুটেশন ল্যাঙ্গুয়েজ মডেলিং
- মুখোশযুক্ত ভাষা মডেলিং
- প্রতিস্থাপিত টোকেন সনাক্তকরণ
- পরবর্তী বাক্য ভবিষ্যদ্বাণী
- কোন BERT দুর্বলতাকে মোকাবেলা করার জন্য XLNet বিশেষভাবে ডিজাইন করা হয়েছিল?
- BERT খুব ছোট ছিল
- [MASK] টোকেন একটি প্রিট্রেন/ফাইন-টিউনের অমিল ঘটায় এবং মাস্কড-টোকেন স্বাধীনতা ধরে নেয়
- BERT ছোট বাক্য পরিচালনা করতে পারেনি
- BERT-এর অবস্থানগত এনকোডিংয়ের অভাব ছিল
- XLNet-এর দুই-প্রবাহের স্ব-মনোযোগকে কী আলাদা করে?
- এনকোডার এবং ডিকোডার স্তর
- প্রশিক্ষণ এবং অনুমান গ্রাফ
- একটি বিষয়বস্তু স্ট্রীম এবং একটি ক্যোয়ারী স্ট্রীম৷
- টোকেন এবং বাক্য এম্বেডিং
- XLNet শারীরিকভাবে একটি বাক্যে শব্দগুলিকে এলোমেলো করে?
- হ্যাঁ, এটি এলোমেলোভাবে প্রকৃত টোকেনগুলিকে পুনরায় সাজায়৷
- হ্যাঁ, তবে শুধুমাত্র ফাইন-টিউনিংয়ের সময়
- না, এটি কখনই কোনো অর্ডার পরিবর্তন করে না
- না, এটি অবস্থান রাখার সময় মনোযোগের মুখোশ ব্যবহার করে ফ্যাক্টরাইজেশন অর্ডারকে অনুমতি দেয়
- কোন স্থাপত্যটি দীর্ঘ পরিসরের প্রসঙ্গে XLNet এর মেরুদণ্ড হিসাবে কাজ করে?
- ট্রান্সফরমার-এক্সএল
- এলএসটিএম
- আসল ভ্যানিলা ট্রান্সফরমার
- কনভোল্যুশনাল নেটওয়ার্ক
- How does XLNet combine bidirectional context with autoregressive prediction?
- It predicts all tokens independently with no attention mask
- It predicts in sampled factorization orders without inserting a [MASK] input token, using attention masks
- It physically shuffles the sentence before every prediction
- It replaces autoregressive prediction with a denoising autoencoder
- For a token sequence A B C, suppose a sampled factorization order predicts C before A and B. What context is available when predicting C?
- The tokens A and B must always be provided first
- Only the next sentence is available
- No earlier tokens in that sampled order, although C remains at its original input position
- The input sequence is physically reordered to C A B
- How does XLNet prevent the target token from leaking into its own prediction query?
- It removes the target from the entire training sequence
- It uses the target’s label as an input embedding
- It replaces the token with a [MASK] symbol
- The query stream represents the target position without its token content