Maskeli Dil Modelleme Sınavı

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Maskeli dil modellemede temel eğitim görevi nedir?
   • Çevreleyen bağlamdan kasıtlı olarak gizlenen kelimeleri tahmin etmek
   • Bir cümleden sonraki kelimeyi tahmin etme
   • İki dil arasında metin çevirme
   • Cümleleri gramer doğruluğuna göre sıralama
2. BERT genellikle ön eğitim sırasında jetonların yaklaşık yüzde kaçını maskeliyor?
   • Yaklaşık %50
   • Yaklaşık %15
   • Yaklaşık %1
   • Yaklaşık %90
3. MLM neden bir modele çift yönlü anlayış sağlıyor?
   • Cümleleri tersten okur
   • İki ayrı model kullanıyor
   • Her jeton hem solundaki hem de sağındaki kelimelerle ilgilenir
   • Sadece önceki kelimeye bakar
4. BERT'in maskeleme planında, [MASK] olmak yerine seçilen konumların yaklaşık %10'una ne olur?
   • Tamamen siliniyorlar
   • Onlar kopyalanıyor
   • Büyük harfle yazılırlar
   • Rastgele bir kelimeyle değiştirilirler
5. MLM kaybı hangi pozisyonlarda hesaplanır?
   • Yalnızca maskelenmiş konumlar
   • Cümledeki her simge
   • Yalnızca ilk ve son jetonlar
   • Yalnızca noktalama işaretleri
6. Bir sonraki token tahminiyle karşılaştırıldığında, MLM neyi takas ediyor?
   • Bağlamı kullanma yeteneği
   • Soldan sağa akıcı metin oluşturma yeteneği
   • Bir kelime dağarcığına erişim
   • Dikkatin kullanılması
7. How does RoBERTa’s dynamic masking differ from BERT’s original setup?
   • It masks only the first token of every sentence
   • It predicts future tokens with a causal decoder
   • The masked positions can be regenerated across training passes instead of remaining fixed
   • It replaces all masked tokens with random numbers
8. What auxiliary objective did the original BERT pretraining recipe combine with MLM?
   • Image patch reconstruction
   • Audio speaker diarization
   • A reward model for code generation
   • Next-sentence prediction