Rehber bağlantılı sınav · Sert Seviye

XLNet Permütasyon Modelleme Sınavı

Permütasyon çarpanlarına ayırmayı, iki akışlı dikkati, Transformer-XL yinelemesini ve kıyaslama taleplerinin karşılaştırılabilir ayarlara nasıl bağlı olduğunu kontrol eder.

İlgili kılavuz yollarıXlnet Permütasyon Modellemesi
Soru 1 arasında 8

XLNet hangi ön eğitim hedefini kullanıyor?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. XLNet hangi ön eğitim hedefini kullanıyor?
    • Permütasyon dili modelleme
    • Maskeli dil modelleme
    • Değiştirilen jeton tespiti
    • Sonraki cümle tahmini
  2. XLNet hangi BERT zayıflığını gidermek için özel olarak tasarlandı?
    • BERT çok küçüktü
    • [MASK] belirteci, ön eğitim/ince ayar uyumsuzluğuna neden olur ve maskelenmiş belirtecin bağımsızlığını varsayar
    • BERT kısa cümleleri kaldıramadı
    • BERT konumsal kodlamalardan yoksundu
  3. XLNet'in iki yönlü kişisel dikkatini ayıran şey nedir?
    • Kodlayıcı ve kod çözücü katmanları
    • Eğitim ve çıkarım grafikleri
    • İçerik akışı ve sorgu akışı
    • Belirteç ve cümle yerleştirmeleri
  4. XLNet bir cümledeki kelimeleri fiziksel olarak karıştırıyor mu?
    • Evet, gerçek jetonları rastgele yeniden sıralar
    • Evet, ancak yalnızca ince ayar sırasında
    • Hayır, hiçbir sıralamayı asla değiştirmez
    • Hayır, konumları korurken dikkat maskelerini kullanarak çarpanlara ayırma sırasını değiştirir
  5. Uzun vadeli bağlam için XLNet'in omurgasını hangi mimari oluşturuyor?
    • Trafo-XL
    • LSTM
    • Orijinal vanilya Transformatörü
    • Evrişimsel ağ
  6. How does XLNet combine bidirectional context with autoregressive prediction?
    • It predicts all tokens independently with no attention mask
    • It predicts in sampled factorization orders without inserting a [MASK] input token, using attention masks
    • It physically shuffles the sentence before every prediction
    • It replaces autoregressive prediction with a denoising autoencoder
  7. For a token sequence A B C, suppose a sampled factorization order predicts C before A and B. What context is available when predicting C?
    • The tokens A and B must always be provided first
    • Only the next sentence is available
    • No earlier tokens in that sampled order, although C remains at its original input position
    • The input sequence is physically reordered to C A B
  8. How does XLNet prevent the target token from leaking into its own prediction query?
    • It removes the target from the entire training sequence
    • It uses the target’s label as an input embedding
    • It replaces the token with a [MASK] symbol
    • The query stream represents the target position without its token content