Maswali ya Kuiga Lugha Iliyofichwa

Majibu na maelezo huonekana unapojibu maswali.

1. Je, ni kazi gani ya msingi ya mafunzo katika uundaji wa lugha iliyofichwa?
   • Kutabiri maneno yaliyofichwa kimakusudi kutoka kwa muktadha unaowazunguka
   • Kutabiri neno linalofuata baada ya sentensi
   • Kutafsiri maandishi kati ya lugha mbili
   • Kupanga sentensi kwa usahihi wa kisarufi
2. Takriban ni asilimia ngapi ya ishara ambazo BERT kawaida hufunika wakati wa mazoezi ya awali?
   • Takriban 50%
   • Takriban 15%
   • Takriban 1%
   • Takriban 90%
3. Kwa nini MLM inatoa uelewa wa mwelekeo wa kuigwa?
   • Inasoma sentensi nyuma
   • Inatumia mifano miwili tofauti
   • Kila ishara inashughulikia maneno ya kushoto na kulia
   • Inatazama tu neno lililotangulia
4. Katika mpango wa ufunikaji wa BERT, nini kinatokea kwa takriban 10% ya nafasi zilizochaguliwa badala ya kuwa [MASK]?
   • Zinafutwa kabisa
   • Zimenakiliwa
   • Zimeandikwa kwa herufi kubwa
   • Wao hubadilishwa na neno la nasibu
5. Je, hasara ya MLM inakokotolewa kwenye nafasi zipi?
   • Nafasi zilizofunikwa tu
   • Kila ishara katika sentensi
   • Ishara za kwanza na za mwisho tu
   • Ishara za uakifishaji pekee
6. Ikilinganishwa na utabiri wa ishara inayofuata, MLM inauza nini?
   • Uwezo wa kutumia muktadha
   • Uwezo wa kutoa maandishi fasaha kutoka kushoto kwenda kulia
   • Upatikanaji wa msamiati
   • Matumizi ya tahadhari
7. How does RoBERTa’s dynamic masking differ from BERT’s original setup?
   • It masks only the first token of every sentence
   • It predicts future tokens with a causal decoder
   • The masked positions can be regenerated across training passes instead of remaining fixed
   • It replaces all masked tokens with random numbers
8. What auxiliary objective did the original BERT pretraining recipe combine with MLM?
   • Image patch reconstruction
   • Audio speaker diarization
   • A reward model for code generation
   • Next-sentence prediction