Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Sztochasztikus gradiens süllyedés lendületes kvízzel

Test accumulated velocity, oscillation damping, coefficient effects, consistent gradients, Adam connection, and zero-momentum behavior.

kérdés 1 -ból 8

Mi halmozódik fel a lendületi idő edzés közben?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mi halmozódik fel a lendületi idő edzés közben?
    • A képzési időszakok teljes száma
    • A múltbeli gradiensek futó (exponenciálisan súlyozott) átlaga
    • Az adatkészlet mérete
    • A modell pontossági története
  2. Egy hosszú, keskeny szakadékban milyen problémát szenved a sima SGD, amelyet a lendület segít megoldani?
    • Számszerűen túlcsordul
    • Leállítja a gradiensek számítását
    • Automatikusan növeli a tanulási sebességet
    • Cikcakkban cikázik a meredek falakon, miközben lassan halad a padlón
  3. Az impulzus együttható általános alapértelmezett értéke:
    • 0.9
    • 0.0
    • 0.5
    • 2.0
  4. Melyik fizikai analógiát használják leggyakrabban a lendület leírására?
    • Egy örökké lengő inga
    • Egy rugó visszapattan
    • Egy nehéz labda gurul lefelé
    • Víz fagyása
  5. Körülbelül mennyivel erősíti fel a lendület az effektív lépést egy következetes irányba, ha béta = 0,9?
    • Körülbelül 2 alkalommal
    • Körülbelül 0,1-szer
    • Nincs erősítés
    • Körülbelül 10 alkalommal
  6. Melyik modern optimalizáló tartalmaz egy lendület-stílusú első pillanatra vonatkozó becslést?
    • Newton módszere
    • Ádám
    • K- jelenti
    • Véletlenszerű keresés
  7. In the update v = beta times v plus gradient, what happens when beta is zero?
    • The old velocity is doubled
    • Every gradient becomes zero
    • The previous velocity is discarded and the current gradient determines the step
    • The parameters stop depending on the learning rate
  8. Why can repeated gradients with opposing sideways directions produce less zig-zagging under momentum?
    • Their opposing contributions can partially cancel in accumulated velocity
    • All past gradients are stored as separate parameters
    • The loss becomes convex automatically
    • Momentum ignores the current gradient entirely