Kushuka kwa Gradient ya Stochastic na Maswali ya Kasi

Majibu na maelezo huonekana unapojibu maswali.

1. Je, muda wa kasi hujilimbikiza wakati wa mafunzo?
   • Jumla ya idadi ya vipindi vya mafunzo
   • Wastani wa kukimbia (ulio na uzani wa juu) wa viwango vya awali vilivyopita
   • Ukubwa wa seti ya data
   • Historia ya usahihi ya mfano
2. Katika bonde refu, jembamba, SGD inakabiliwa na tatizo gani ambalo kasi husaidia kurekebisha?
   • Inafurika kiidadi
   • Inaacha kuhesabu gradients
   • Inaongeza kiwango cha kujifunza kiotomatiki
   • Inaziga-zaga kuvuka kuta zenye mwinuko huku ikiendelea polepole kwenye sakafu
3. Thamani chaguo-msingi ya kawaida ya mgawo wa kasi ni:
   • 0.9
   • 0.0
   • 0.5
   • 2.0
4. Ni mlinganisho gani wa kimwili unaotumiwa mara nyingi kuelezea kasi?
   • Pendulum inayozunguka milele
   • Chemchemi inayorudi nyuma
   • Mpira mzito ukiteremka
   • Kufungia kwa maji
5. Takriban kasi inakuza hatua madhubuti katika mwelekeo thabiti wakati beta = 0.9 ni kiasi gani?
   • Takriban mara 2
   • Takriban mara 0.1
   • Hakuna ukuzaji
   • Takriban mara 10
6. Ni kiboreshaji kipi cha kisasa kinachojumuisha makadirio ya dakika ya kwanza ya mtindo wa kasi?
   • Mbinu ya Newton
   • Adamu
   • K-njia
   • Utafutaji wa nasibu
7. In the update v = beta times v plus gradient, what happens when beta is zero?
   • The old velocity is doubled
   • Every gradient becomes zero
   • The previous velocity is discarded and the current gradient determines the step
   • The parameters stop depending on the learning rate
8. Why can repeated gradients with opposing sideways directions produce less zig-zagging under momentum?
   • Their opposing contributions can partially cancel in accumulated velocity
   • All past gradients are stored as separate parameters
   • The loss becomes convex automatically
   • Momentum ignores the current gradient entirely