Kuiz Resipi Latihan RoBERTa

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. Apakah pandangan utama RoBERTa tentang BERT asal?
   • Seni bina BERT pada asasnya adalah cacat
   • BERT menggunakan terlalu banyak parameter
   • BERT kurang terlatih dengan ketara
   • BERT memerlukan penyahkod ditambah
2. Objektif BERT manakah yang dibuang oleh RoBERTa?
   • Ramalan ayat seterusnya
   • Pemodelan bahasa bertopeng
   • Klasifikasi token
   • Pengesanan token diganti
3. Apakah topeng dinamik dalam RoBERTa?
   • Menyamarkan hanya perkataan paling jarang dalam korpus
   • Menyamarkan keseluruhan ayat sekaligus
   • Jangan sekali-kali menutup token yang sama dua kali dalam korpus
   • Menjana corak topeng baharu setiap kali jujukan dilihat
4. Bagaimanakah data latihan RoBERTa dibandingkan dengan BERT?
   • Ia menggunakan teks 16GB yang sama
   • Ia menggunakan kira-kira 160GB, kira-kira 10x lebih
   • Ia menggunakan kurang data tetapi label yang lebih bersih
   • Ia hanya menggunakan Wikipedia
5. Organisasi manakah yang mengeluarkan RoBERTa?
   • Facebook AI (Meta)
   • AI Google
   • OpenAI
   • Microsoft Penyelidikan
6. Apakah nama RoBERTa versi berbilang bahasa?
   • mBERT
   • ROBERTa-XL
   • XLM-R (XLM-RoBERTa)
   • PolyRoBERTa
7. Which text encoding did the RoBERTa recipe use according to the guide?
   • A fixed vocabulary of complete words only
   • Byte-level byte-pair encoding
   • One image patch per token
   • A phoneme-only vocabulary
8. A researcher credits a new layer for beating BERT but also changes the data volume and training duration. Which lesson from RoBERTa matters?
   • Architecture changes always explain every improvement
   • Training duration can be ignored if the benchmark is the same
   • Data volume cannot affect an encoder
   • Training choices can account for gains, so they must be considered when comparing models