Rehber bağlantılı sınav · Orta Seviye

RoBERTa Eğitim Tarifi Yarışması

RoBERTa'nın maskelemesini, ön eğitim hedeflerini, veri ölçeğini, belirteci, çok dilli varyantını ve kontrollü model karşılaştırmalarına ilişkin dersleri inceleyin.

İlgili kılavuz yollarıRoberta Eğitim Tarifi
Soru 1 arasında 8

RoBERTa'nın orijinal BERT hakkındaki ana görüşü neydi?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. RoBERTa'nın orijinal BERT hakkındaki ana görüşü neydi?
    • BERT'in mimarisi temelde kusurluydu
    • BERT çok fazla parametre kullandı
    • BERT önemli ölçüde yetersiz eğitilmişti
    • BERT'in bir kod çözücünün eklenmesine ihtiyacı vardı
  2. RoBERTa hangi BERT hedefini kaldırdı?
    • Sonraki cümle tahmini
    • Maskeli dil modelleme
    • Jeton sınıflandırması
    • Değiştirilen jeton tespiti
  3. RoBERTa'da dinamik maskeleme nedir?
    • Derlemdeki yalnızca en nadir kelimeleri maskeleme
    • Tüm cümleleri aynı anda maskeleme
    • Aynı token'ı bir derlemede asla iki kez maskeleme
    • Bir dizi her görüldüğünde yeni bir maske modeli oluşturma
  4. RoBERTa'nın eğitim verileri BERT'inkilerle karşılaştırıldığında nasıldı?
    • Aynı 16GB metni kullandı
    • Yaklaşık 160 GB, yaklaşık 10 kat daha fazla kullanıldı
    • Daha az veri kullandı ancak etiketler daha temizdi
    • Yalnızca Vikipedi'yi kullandı
  5. RoBERTa'yı hangi kuruluş yayınladı?
    • Facebook AI (Meta)
    • Google Yapay Zeka
    • OpenAI
    • Microsoft Araştırma
  6. RoBERTa'nın çok dilli versiyonuna ne denir?
    • mBERT
    • RoBERTa-XL
    • XLM-R (XLM-RoBERTa)
    • PolyRoBERTa
  7. Which text encoding did the RoBERTa recipe use according to the guide?
    • A fixed vocabulary of complete words only
    • Byte-level byte-pair encoding
    • One image patch per token
    • A phoneme-only vocabulary
  8. A researcher credits a new layer for beating BERT but also changes the data volume and training duration. Which lesson from RoBERTa matters?
    • Architecture changes always explain every improvement
    • Training duration can be ignored if the benchmark is the same
    • Data volume cannot affect an encoder
    • Training choices can account for gains, so they must be considered when comparing models