Rehber bağlantılı sınav · Orta Seviye
RoBERTa Eğitim Tarifi Yarışması
RoBERTa'nın maskelemesini, ön eğitim hedeflerini, veri ölçeğini, belirteci, çok dilli varyantını ve kontrollü model karşılaştırmalarına ilişkin dersleri inceleyin.
Soru 1 arasında 8
RoBERTa'nın orijinal BERT hakkındaki ana görüşü neydi?
Her soruyu önizleyin8 sorular
Testi çözdüğünüzde cevaplar ve açıklamalar görünür.
- RoBERTa'nın orijinal BERT hakkındaki ana görüşü neydi?
- BERT'in mimarisi temelde kusurluydu
- BERT çok fazla parametre kullandı
- BERT önemli ölçüde yetersiz eğitilmişti
- BERT'in bir kod çözücünün eklenmesine ihtiyacı vardı
- RoBERTa hangi BERT hedefini kaldırdı?
- Sonraki cümle tahmini
- Maskeli dil modelleme
- Jeton sınıflandırması
- Değiştirilen jeton tespiti
- RoBERTa'da dinamik maskeleme nedir?
- Derlemdeki yalnızca en nadir kelimeleri maskeleme
- Tüm cümleleri aynı anda maskeleme
- Aynı token'ı bir derlemede asla iki kez maskeleme
- Bir dizi her görüldüğünde yeni bir maske modeli oluşturma
- RoBERTa'nın eğitim verileri BERT'inkilerle karşılaştırıldığında nasıldı?
- Aynı 16GB metni kullandı
- Yaklaşık 160 GB, yaklaşık 10 kat daha fazla kullanıldı
- Daha az veri kullandı ancak etiketler daha temizdi
- Yalnızca Vikipedi'yi kullandı
- RoBERTa'yı hangi kuruluş yayınladı?
- Facebook AI (Meta)
- Google Yapay Zeka
- OpenAI
- Microsoft Araştırma
- RoBERTa'nın çok dilli versiyonuna ne denir?
- mBERT
- RoBERTa-XL
- XLM-R (XLM-RoBERTa)
- PolyRoBERTa
- Which text encoding did the RoBERTa recipe use according to the guide?
- A fixed vocabulary of complete words only
- Byte-level byte-pair encoding
- One image patch per token
- A phoneme-only vocabulary
- A researcher credits a new layer for beating BERT but also changes the data volume and training duration. Which lesson from RoBERTa matters?
- Architecture changes always explain every improvement
- Training duration can be ignored if the benchmark is the same
- Data volume cannot affect an encoder
- Training choices can account for gains, so they must be considered when comparing models