Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Bemelegítési és koszinuszos izzítási ütemezési kvíz
Tests warmup’s early-training role, the transition to cosine decay, and how to read the schedule’s linear ramp and endpoint.
kérdés 1 -ból 8
Mi a fő célja a bemelegítési szakasznak az edzés elején?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mi a fő célja a bemelegítési szakasznak az edzés elején?
- A korai edzés stabilizálására, amikor a súlyok véletlenszerűek és a lejtők zajosak
- A tétel méretének fokozatos növelése
- A modell alsó rétegeinek lefagyasztásához
- A modell tömörítése a gyorsabb következtetés érdekében
- A koszinuszos lágyítás melyik alakzatot követve csökkenti a tanulási sebességet?
- Egyenes átlós vonal
- Egy koszinusz görbe, amely magasan kezdődik, enyhül és a nullához közel ellaposodik
- Lépésfüggvény, amely rögzített korszakokban csökken
- Exponenciális kiugrás felfelé
- Melyik optimalizálónak előnyös a bemelegítés, mivel a varianciabecslései már korán megbízhatatlanok?
- Sima SGD lendület nélkül
- Rács keresés
- Ádám és változatai
- K- jelenti
- Mit jelent T a koszinusz képletben?
- A modell hőmérséklete a mintavételhez
- A használt GPU-k száma
- A tokenizátor szókincsének mérete
- Az edzési lépések teljes száma az ütemezésben
- In the guide’s warmup-plus-cosine schedule, what begins after warmup reaches its target rate?
- Cosine decay begins from the peak learning rate
- All model weights are reset
- The schedule switches to a constant zero rate
- Momentum is removed from every optimizer
- A linear warmup rises from zero to its target rate over 200 steps. About what rate is used halfway through?
- The full target rate
- About half of the target rate
- The learning rate is exactly zero
- Twice the target rate
- At the cosine horizon t = T, what multiplier does the guide’s cosine formula produce?
- Egy
- One-half
- Nulla
- It becomes negative one
- Why use a gradual cosine decay after warmup rather than abruptly setting the rate to zero?
- It guarantees a global minimum
- It increases the model’s parameter count
- It removes the need to check training loss
- It lets the rate ease down so optimization can settle gradually