Kvíz spojený s průvodcem · Střední úroveň
Kvíz o zbytkových sítích
Prohlédněte si výpočet reziduálních bloků, zkratky identity, přechodové cesty, hloubku ImageNet a jak se rezidua opakují v neuronových architekturách.
Otázka 1 z 8
Jaký problém konkrétně řešily zbytkové spoje?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Jaký problém konkrétně řešily zbytkové spoje?
- Trénink hlubších rovinných sítí je horší než mělčích (degradace)
- Obrázky mají příliš nízké rozlišení
- Nedostatek označených tréninkových dat
- Dochází paměť GPU
- What does a basic residual block compute when input and output dimensions match?
- Multiplies the input by itself
- Adds the block’s learned residual function to its input, y = F(x) + x
- Drops the input and returns zero
- Sorts input channels alphabetically
- Proč přeskakovaná spojení napomáhají sklonům během tréninku?
- They eliminate the need to train weights
- They force every layer to output zero
- They provide an additional direct path for gradient flow around the learned transformation
- They make deep networks immune to all optimization problems
- How deep was the deepest ResNet evaluated in the original ImageNet paper?
- 18 layers
- 34 layers
- 50 layers
- 152 vrstev
- Pokud se vrstvy zbytkového bloku naučí F(x) = 0, co blok dělá?
- Efektivně předává vstup beze změny (identita)
- Na výstupu je nula a přeruší síť
- Zdvojnásobuje vstup
- Randomizuje výstup
- What residual connection does the Transformer paper describe around attention and feed-forward sublayers?
- Replace the sublayer input with a class label
- Add each sublayer’s output to the sublayer input through a residual connection
- Average every token globally at the output only
- Remove the residual stream after self-attention
- When a residual block changes channel dimensions, what can a projection shortcut do?
- Convert the input into a text sequence
- Remove the residual branch
- Map the shortcut input to the dimensions required for addition
- Guarantee that every gradient has unit magnitude
- What sequence of convolutions defines the original ResNet bottleneck block?
- Three 3×3 convolutions only
- A 3×3 convolution followed by two fully connected layers
- A pooling layer followed by two transposed convolutions
- A 1×1, then 3×3, then 1×1 convolution