Maswali yanayounganishwa na mwongozo · Kati Kiwango

Maswali ya Kulazimisha Walimu katika Miundo ya Mfuatano

Hukagua jinsi viambishi awali vya ukweli-msingi hufunza avkodare mfuatano, jinsi vinyago vya visababishi vinavyounga mkono mafunzo sambamba, na kwa nini makisio hutofautiana.

Njia za mwongozo zinazohusianaMwalimu Kulazimisha Katika Modeli za Mfuatano
Swali 1 ya 8

Wakati wa kulazimisha mwalimu, ni nini hulishwa kama ingizo katika kila hatua ya kusimbua?

Hakiki kila swali8 maswali

Majibu na maelezo huonekana unapojibu maswali.

  1. Wakati wa kulazimisha mwalimu, ni nini hulishwa kama ingizo katika kila hatua ya kusimbua?
    • Ishara ya awali ya ukweli wa msingi
    • Utabiri wa hapo awali wa modeli
    • Ishara ya nasibu
    • Tokeni ya mwisho ya pato
  2. During teacher-forced training, what target is paired with decoder input y_(t−1)?
    • The previous ground-truth token
    • The next target token y_t
    • A token sampled from the validation set
    • The maximum-probability output from an earlier training run
  3. Kutolingana kwa mtihani wa treni unaosababishwa na kulazimishwa kwa walimu kunajulikana kama:
    • Gradients zinazopotea
    • Kukunja kwa hali
    • Upendeleo wa kufichua
    • Uvujaji wa lebo
  4. Katika avkodare ya Transfoma, ni utaratibu gani huruhusu mafunzo ya kulazimishwa na walimu yaendeshe sambamba katika nyadhifa zote?
    • Kuacha
    • Urekebishaji wa kundi
    • Utafutaji wa boriti
    • Mask ya tahadhari ya causal (angalia-mbele).
  5. Kwa wakati wa uelekezaji, kwa nini kulazimisha kwa mwalimu hakuwezi kutumika?
    • Hakuna tokeni za ukweli wa siku zijazo za kulisha
    • Kitendaji cha upotezaji hakipatikani
    • GPU iko polepole sana
    • Vinyago vya kuzingatia vimezimwa
  6. Ni hasara gani kwa kawaida hutumika katika kila hatua wakati wa mafunzo ya kulazimishwa na walimu?
    • Wastani wa hitilafu ya mraba kwenye kumbukumbu ghafi
    • Mtambuka kati ya usambazaji uliotabiriwa na tokeni ya kweli inayofuata
    • Upotezaji wa bawaba kwenye upachikaji
    • Upotezaji wa kufanana kwa Cosine
  7. The target sequence is “red, blue, green.” Under teacher forcing, which token is supplied when training the prediction of “green”?
    • The model’s prediction for “green”
    • The future token after “green”
    • The ground-truth previous token “blue”
    • A randomly sampled vocabulary item
  8. At decoder position t, which tokens must a causal attention mask block?
    • The source sequence
    • All earlier target tokens
    • The current position’s own input
    • Target tokens at positions later than t