Quiz collegato alla guida · Difficile Livello
Quiz sulla minimizzazione consapevole della nitidezza
Controlla l'aggiornamento a due passaggi di SAM, il suo raggio di prossimità, il gradiente di peso perturbato e il compromesso tra planarità e calcolo.
Domanda 1 di 8
Che tipo di minimo cerca di trovare SAM?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Che tipo di minimo cerca di trovare SAM?
- Un minimo piatto in cui la perdita rimane bassa in un intorno di pesi
- Il minimo più acuto possibile
- Il minimo con il maggior numero di parametri
- Qualsiasi minimo raggiungibile in un solo passaggio
- Quanti passaggi avanti-indietro richiede un passaggio SAM standard?
- Mezzo passaggio
- Circa due
- Esattamente uno
- Dieci o più
- Cosa controlla l'iperparametro del raggio rho in SAM?
- La velocità di decadimento del tasso di apprendimento
- Il numero di epoche di allenamento
- La dimensione dell'area attorno ai pesi protetta dai picchi di perdite
- La probabilità di abbandono
- Qual è il primo dei due passaggi di SAM ad ogni iterazione?
- Riduci il modello
- Media dei pesi di tutti i passaggi precedenti
- Reimposta lo stato dell'ottimizzatore
- Effettuare un passo di salita di dimensione rho verso il punto più vicino nel caso peggiore
- Perché SAM spesso migliora la robustezza nell'etichettare il rumore?
- Perché i minimi piatti sono meno inclini a memorizzare etichette corrotte
- Perché elimina automaticamente le etichette rumorose
- Perché utilizza un vocabolario più ampio
- Perché triplica la dimensione del lotto
- Quale di queste è una variante progettata per ridurre i costi di elaborazione di SAM?
- ReLU
- ESAM (SAM efficiente)
- Norma batch
- AdaGrad
- In SAM’s second pass, which gradient is used to update the original model weights?
- The gradient of a random label
- The first pass gradient without evaluating the perturbed point
- The gradient evaluated at the perturbed nearby weights
- A gradient from a different model checkpoint
- If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
- The model parameters are all set to zero
- The loss becomes independent of the weights
- The optimizer takes an infinite step
- There is no weight perturbation, so the neighborhood reduces to the current point