Test legat de ghid · Mediu Nivel
Test de programare a ratei de învățare
Verifică programul de încălzire, cosinus și pași, comportamentul de repornire, instabilitatea timpurie și rețeta obișnuită de antrenament pentru încălzire, apoi dezintegrare.
Întrebare 1 de 8
Care este scopul unei faze de „încălzire” într-un program al ratei de învățare?
Previzualizează fiecare întrebare8 întrebări
Răspunsurile și explicațiile apar pe măsură ce susțineți testul.
- Care este scopul unei faze de „încălzire” într-un program al ratei de învățare?
- Pentru a începe cu o rată mică și pentru a crește, evitând instabilitatea de la pantele zgomotoase timpurii
- Pentru a reduce precizia finală
- Pentru a sări peste primele loturi de date
- Pentru a îngheța toate greutățile la început
- Care program urmează lin o curbă semicosinus în jos spre o rată minimă?
- Program constant
- Recoacere cosinus
- Program aleatoriu
- Creștere liniară
- Ce se întâmplă dacă rata de învățare este setată mult prea mare?
- Antrenamentul converge instantaneu cu o precizie perfectă
- Modelul se antrenează mai încet, dar întotdeauna reușește
- Pierderea poate diverge sau oscila în loc să scadă
- Nu se schimbă nimic; rata nu are efect
- Ce afectează decăderea în trepte asupra ratei de învățare?
- O mărește liniar la fiecare lot
- Îl menține perfect constant
- Setează aleator la fiecare pas
- O reduce cu un factor fix la epoci predefinite
- What does a warm restart do to a learning-rate schedule?
- It raises the learning rate again to begin another schedule cycle
- It resets the model parameters to random values
- It permanently fixes the learning rate at zero
- It deletes the optimizer’s moment estimates
- In Goyal et al.’s large-minibatch ImageNet setup, what did their warmup scheme address?
- It removed the need for a validation set
- It eased early optimization difficulties after the learning-rate scale increased with batch size
- It changed the model architecture after each epoch
- It converted the learning-rate curve into a cosine wave
- In the cosine formula, what does T denote?
- Numărul de straturi de model
- Dimensiunea lotului
- The schedule horizon or total number of steps used for the decay
- The optimizer’s momentum coefficient
- If the cosine schedule uses lr_min greater than zero, where does the rate approach at the end of the horizon?
- Exactly zero regardless of lr_min
- The original warmup starting rate
- An unbounded value
- The specified minimum learning rate