Maswali yanayounganishwa na mwongozo · Ngumu Kiwango

Maswali ya Kupunguza Ukali-Kufahamu

Hukagua sasisho la pasi mbili za SAM, eneo la ujirani wake, kipenyo cha uzani wa kutatanisha na ubadilishanaji kati ya kujaa na kukokotoa.

Njia za mwongozo zinazohusianaSharpness Aware Kupunguza
Swali 1 ya 8

Ni aina gani ya kiwango cha chini ambacho SAM hujaribu kupata?

Hakiki kila swali8 maswali

Majibu na maelezo huonekana unapojibu maswali.

  1. Ni aina gani ya kiwango cha chini ambacho SAM hujaribu kupata?
    • Kiwango cha chini kabisa ambapo hasara hubaki chini katika eneo la uzani
    • Kiwango cha chini kabisa kinachowezekana
    • Kiwango cha chini kilicho na vigezo vingi
    • Kiwango chochote cha chini kinachoweza kufikiwa katika hatua moja
  2. Je, hatua ya SAM ya kawaida inahitaji pasi ngapi za kwenda nyuma?
    • Nusu ya kupita
    • Takriban mbili
    • Moja kabisa
    • Kumi au zaidi
  3. Je, radius hyperparameta rho inadhibiti nini katika SAM?
    • Kasi ya kuoza kwa kiwango cha kujifunza
    • Idadi ya vipindi vya mafunzo
    • Ukubwa wa kitongoji karibu na uzani ambao umelindwa dhidi ya miiba ya upotezaji
    • Uwezekano wa kuacha shule
  4. Je, ni hatua gani ya kwanza kati ya hatua mbili za SAM kwa kila marudio?
    • Punguza mfano
    • Wastani wa uzani wa hatua zote zilizopita
    • Weka upya hali ya kiboreshaji
    • Chukua hatua ya kupanda ya saizi rho kuelekea eneo lililo karibu na hali mbaya zaidi
  5. Kwa nini SAM mara nyingi huboresha uimara wa kuweka lebo kelele?
    • Kwa sababu flat minima huwa na uwezekano mdogo wa kukariri lebo zilizoharibika
    • Kwa sababu hufuta lebo zenye kelele kiotomatiki
    • Kwa sababu hutumia msamiati mkubwa zaidi
    • Kwa sababu inaongeza ukubwa wa kundi mara tatu
  6. Ni ipi kati ya hizi ni lahaja iliyoundwa ili kupunguza gharama ya kukokotoa ya SAM?
    • RELU
    • ESAM (SAM yenye ufanisi)
    • BatchNorm
    • AdaGrad
  7. In SAM’s second pass, which gradient is used to update the original model weights?
    • The gradient of a random label
    • The first pass gradient without evaluating the perturbed point
    • The gradient evaluated at the perturbed nearby weights
    • A gradient from a different model checkpoint
  8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
    • The model parameters are all set to zero
    • The loss becomes independent of the weights
    • The optimizer takes an infinite step
    • There is no weight perturbation, so the neighborhood reduces to the current point