Maswali yanayounganishwa na mwongozo · Ngumu Kiwango
Maswali ya Kurekebisha Kundi
Hukagua takwimu za kundi, kiwango cha kuunganisha na kuhama, wastani wa uendeshaji, uthabiti wa kundi dogo na jinsi BatchNorm inavyotofautiana na LayerNorm.
Swali 1 ya 8
Je, urekebishaji wa kundi unarekebisha nini?
Hakiki kila swali8 maswali
Majibu na maelezo huonekana unapojibu maswali.
- Je, urekebishaji wa kundi unarekebisha nini?
- Ingizo kwa safu, katika mifano katika kundi-dogo la sasa
- Lebo za mwisho za mtandao
- Ratiba ya kiwango cha kujifunza kwa muda
- Ukubwa wa seti ya data ya mafunzo
- Kwa nini urekebishaji wa bechi unajumuisha vigezo vinavyoweza kujifunzia vya gamma na beta?
- Ili kuongeza ukubwa wa mkusanyiko wa data
- Kuruhusu mtandao kupima na kuhamisha thamani zilizosawazishwa, kuhifadhi nguvu ya uwakilishi
- Kuangusha neuroni bila mpangilio wakati wa mafunzo
- Ili kuhesabu kazi ya upotezaji
- Ni faida gani ya kawaida inayotajwa ya urekebishaji wa kundi?
- Huondoa hitaji la data yoyote ya mafunzo
- Inahakikisha kuwa mfano hauwezi kupita kiasi
- Inaruhusu viwango vya juu vya kujifunza na muunganisho wa haraka na thabiti zaidi
- Huondoa hitaji la kitendakazi cha kuwezesha
- Kwa wakati wa uelekezaji (kutabiri juu ya data mpya), ni takwimu gani ambazo urekebishaji wa kundi hutumia?
- Wastani na tofauti ya ingizo moja la sasa pekee
- Takwimu zinazozalishwa bila mpangilio kila wakati
- Takwimu za seti ya jaribio zilikokotolewa mapema
- Uendeshaji wa wastani wa wastani na tofauti zilizokusanywa wakati wa mafunzo
- Kwa nini urekebishaji wa kundi unaweza kuishi vibaya na saizi ndogo sana za kundi?
- Takwimu za kundi huwa na kelele na makadirio yasiyotegemewa ya usambazaji wa kweli
- Vikundi vidogo hufanya modeli kuwa kubwa sana kutoshea kwenye kumbukumbu
- Inalemaza vitendaji vya kuwezesha
- Vikundi vidogo vinalazimisha matumizi ya utaratibu wa L1
- Ni mbinu gani ya kuhalalisha ambayo hutumiwa sana katika usanifu wa kibadilishaji kama mbadala wa urekebishaji wa kundi?
- Urekebishaji wa kuacha
- Urekebishaji wa tabaka
- L2 kuhalalisha hasara
- Ukataji wa gradient
- Why does BatchNorm use running averages during inference instead of the current test batch’s statistics?
- To retrain the model on test data
- To make all activations exactly zero
- So a prediction does not depend on which other examples happen to share the batch
- To eliminate learned gamma and beta
- Where is BatchNorm commonly placed within a layer block according to the guide?
- Only after the final prediction
- Before the input data are loaded
- Inside the optimizer update
- Between the linear transformation and its activation function