Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Bemelegítési és koszinuszos izzítási ütemezési kvíz

Tests warmup’s early-training role, the transition to cosine decay, and how to read the schedule’s linear ramp and endpoint.

kérdés 1 -ból 8

Mi a fő célja a bemelegítési szakasznak az edzés elején?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mi a fő célja a bemelegítési szakasznak az edzés elején?
    • A korai edzés stabilizálására, amikor a súlyok véletlenszerűek és a lejtők zajosak
    • A tétel méretének fokozatos növelése
    • A modell alsó rétegeinek lefagyasztásához
    • A modell tömörítése a gyorsabb következtetés érdekében
  2. A koszinuszos lágyítás melyik alakzatot követve csökkenti a tanulási sebességet?
    • Egyenes átlós vonal
    • Egy koszinusz görbe, amely magasan kezdődik, enyhül és a nullához közel ellaposodik
    • Lépésfüggvény, amely rögzített korszakokban csökken
    • Exponenciális kiugrás felfelé
  3. Melyik optimalizálónak előnyös a bemelegítés, mivel a varianciabecslései már korán megbízhatatlanok?
    • Sima SGD lendület nélkül
    • Rács keresés
    • Ádám és változatai
    • K- jelenti
  4. Mit jelent T a koszinusz képletben?
    • A modell hőmérséklete a mintavételhez
    • A használt GPU-k száma
    • A tokenizátor szókincsének mérete
    • Az edzési lépések teljes száma az ütemezésben
  5. In the guide’s warmup-plus-cosine schedule, what begins after warmup reaches its target rate?
    • Cosine decay begins from the peak learning rate
    • All model weights are reset
    • The schedule switches to a constant zero rate
    • Momentum is removed from every optimizer
  6. A linear warmup rises from zero to its target rate over 200 steps. About what rate is used halfway through?
    • The full target rate
    • About half of the target rate
    • The learning rate is exactly zero
    • Twice the target rate
  7. At the cosine horizon t = T, what multiplier does the guide’s cosine formula produce?
    • Egy
    • One-half
    • Nulla
    • It becomes negative one
  8. Why use a gradual cosine decay after warmup rather than abruptly setting the rate to zero?
    • It guarantees a global minimum
    • It increases the model’s parameter count
    • It removes the need to check training loss
    • It lets the rate ease down so optimization can settle gradually