Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Tanári kényszerítés sorozatmodellekben kvíz

Checks how ground-truth prefixes train a sequence decoder, how causal masks support parallel training, and why inference differs.

Kapcsolódó útmutató utakTanári kényszerítő sorozatmodellek
kérdés 1 -ból 8

A tanári kényszerítés során mi kerül bemenetként minden dekódolási lépésnél?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. A tanári kényszerítés során mi kerül bemenetként minden dekódolási lépésnél?
    • Az alap-igazság előző jelzője
    • A modell saját korábbi előrejelzése
    • Egy véletlenszerű token
    • A végső kimeneti token
  2. During teacher-forced training, what target is paired with decoder input y_(t−1)?
    • The previous ground-truth token
    • The next target token y_t
    • A token sampled from the validation set
    • The maximum-probability output from an earlier training run
  3. A tanári kényszer által okozott vonatvizsga eltérés a következőképpen ismert:
    • Eltűnő színátmenetek
    • Üzemmód összeomlása
    • Expozíciós torzítás
    • Címke szivárgás
  4. A Transformer dekóderben milyen mechanizmus teszi lehetővé, hogy a tanárok által kényszerített képzés párhuzamosan működjön a különböző pozíciókban?
    • Lemorzsolódás
    • Kötegelt normalizálás
    • Sugárkeresés
    • Ok-okozati (előretekintő) figyelemmaszk
  5. A következtetés idején miért nem használható a tanári kényszer?
    • Nincsenek megalapozott jövőbeli jelzők
    • A veszteség funkció nem érhető el
    • A GPU túl lassú
    • A figyelemmaszkok le vannak tiltva
  6. Melyik veszteséget használják jellemzően az egyes lépésekben a tanári kényszerképzés során?
    • Átlagos négyzetes hiba a nyers logitokon
    • Keresztentrópia a megjósolt eloszlás és a valódi következő token között
    • Zsanérvesztés a beágyazásoknál
    • Koszinusz hasonlóság elvesztése
  7. The target sequence is “red, blue, green.” Under teacher forcing, which token is supplied when training the prediction of “green”?
    • The model’s prediction for “green”
    • The future token after “green”
    • The ground-truth previous token “blue”
    • A randomly sampled vocabulary item
  8. At decoder position t, which tokens must a causal attention mask block?
    • The source sequence
    • All earlier target tokens
    • The current position’s own input
    • Target tokens at positions later than t