XLNet پرموٹیشن ماڈلنگ کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. XLNet کونسا پری ٹریننگ مقصد استعمال کرتا ہے؟
   • پرموٹیشن لینگویج ماڈلنگ
   • نقاب پوش زبان کی ماڈلنگ
   • ٹوکن کا پتہ لگانے کو تبدیل کر دیا گیا۔
   • اگلے جملے کی پیشن گوئی
2. XLNet کو کس BERT کی کمزوری کو دور کرنے کے لیے خاص طور پر ڈیزائن کیا گیا تھا؟
   • BERT بہت چھوٹا تھا۔
   • [MASK] ٹوکن پہلے سے ٹرین/فائن ٹیون کی مماثلت کا سبب بنتا ہے اور ماسکڈ ٹوکن کی آزادی کو فرض کرتا ہے
   • BERT مختصر جملے نہیں سنبھال سکتا تھا۔
   • BERT میں پوزیشنی انکوڈنگز کی کمی تھی۔
3. XLNet کے دو سلسلے کی خود توجہ کو کیا الگ کرتا ہے؟
   • انکوڈر اور ڈیکوڈر پرتیں۔
   • ٹریننگ اور انفرنس گراف
   • مواد کا سلسلہ اور استفسار کا سلسلہ
   • ٹوکن اور جملہ سرایت کرنا
4. کیا XLNet ایک جملے میں الفاظ کو جسمانی طور پر شفل کرتا ہے؟
   • ہاں، یہ تصادفی طور پر اصل ٹوکنز کو دوبارہ ترتیب دیتا ہے۔
   • ہاں، لیکن صرف فائن ٹیوننگ کے دوران
   • نہیں، یہ کبھی بھی کسی ترتیب کو تبدیل نہیں کرتا ہے۔
   • نہیں، یہ پوزیشنز کو برقرار رکھتے ہوئے توجہ کے ماسک کا استعمال کرتے ہوئے فیکٹرائزیشن آرڈر کو اجازت دیتا ہے۔
5. کون سا فن تعمیر طویل فاصلے کے سیاق و سباق کے لیے XLNet کی ریڑھ کی ہڈی کا کام کرتا ہے؟
   • ٹرانسفارمر-XL
   • ایل ایس ٹی ایم
   • اصل ونیلا ٹرانسفارمر
   • Convolutional نیٹ ورک
6. How does XLNet combine bidirectional context with autoregressive prediction?
   • It predicts all tokens independently with no attention mask
   • It predicts in sampled factorization orders without inserting a [MASK] input token, using attention masks
   • It physically shuffles the sentence before every prediction
   • It replaces autoregressive prediction with a denoising autoencoder
7. For a token sequence A B C, suppose a sampled factorization order predicts C before A and B. What context is available when predicting C?
   • The tokens A and B must always be provided first
   • Only the next sentence is available
   • No earlier tokens in that sampled order, although C remains at its original input position
   • The input sequence is physically reordered to C A B
8. How does XLNet prevent the target token from leaking into its own prediction query?
   • It removes the target from the entire training sequence
   • It uses the target’s label as an input embedding
   • It replaces the token with a [MASK] symbol
   • The query stream represents the target position without its token content