Maswali ya Kuanzisha Uzito

Majibu na maelezo huonekana unapojibu maswali.

1. Kwa nini kuanzisha uzani wote hadi sifuri ni kosa mbaya?
   • Neuroni zote hupokea gradient zinazofanana na kamwe hazitofautishi (ulinganifu haujavunjwa)
   • Inafanya mafunzo haraka sana
   • Husababisha hasara kuwa hasi
   • Inatumia kumbukumbu nyingi sana
2. Uanzishaji wa Yeye (Kaiming) umeundwa mahsusi kwa kazi gani ya kuwezesha?
   • Sigmoid
   • RELU
   • Tanh
   • Softmax
3. Ni nini lengo kuu la miradi ya uanzishaji wa uzani wa kanuni?
   • Kufanya uzito wote kuwa sawa
   • Kuweka kila uzito kwa moja
   • Kuweka tofauti za kuwezesha na gradient takriban mara kwa mara katika tabaka
   • Ili kuondoa hitaji la data
4. Uanzishaji wa Xavier (Glorot) unafaa zaidi kwa mitandao inayotumia uanzishaji upi?
   • ReLU na lahaja zake
   • Uwezeshaji wa mstari pekee
   • Hakuna kuwezesha hata kidogo
   • Tanh na sigmoid
5. Kwa nini uanzishaji hutumia tofauti ya 2 / fan_in badala ya 1 / fan_in?
   • Ili kufidia kwa kuweka ReLU takriban nusu ya pembejeo zake hadi sifuri
   • Kufanya uzani kuwa mkubwa bila sababu
   • Ili kupunguza idadi ya vigezo
   • Ili kuendana na saizi ya kundi
6. Upendeleo kawaida huanzishwaje wakati uzani unaanzishwa kwa nasibu?
   • Kwa thamani kubwa sana chanya
   • Hadi sifuri, kwa kuwa ulinganifu tayari umevunjwa na uzani wa nasibu
   • Kwa thamani sawa na kiwango cha kujifunza
   • Kwa thamani nasibu kubwa kuliko uzani
7. Under Xavier initialization, which quantities determine the weight variance in the guide’s formula?
   • The number of training epochs and batch size
   • The output class count alone
   • Fan-in and fan-out
   • The activation’s test accuracy
8. For a ReLU layer with fan-in 64, what variance does the He formula 2/fan_in specify?
   • 1/64
   • 1/16
   • 2/64 squared
   • 1/32