Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ
Câu đố về mạng dư
Xem lại tính toán khối dư, lối tắt nhận dạng, đường dẫn gradient, độ sâu kỷ nguyên ImageNet và cách phần dư tái diễn trong kiến trúc thần kinh.
Câu hỏi 1 của 8
Các kết nối còn lại đã giải quyết cụ thể vấn đề gì?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- Các kết nối còn lại đã giải quyết cụ thể vấn đề gì?
- Huấn luyện mạng đơn giản sâu hơn kém hơn mạng nông hơn (suy thoái)
- Hình ảnh có độ phân giải quá thấp
- Thiếu dữ liệu đào tạo được dán nhãn
- GPU hết bộ nhớ
- What does a basic residual block compute when input and output dimensions match?
- Multiplies the input by itself
- Adds the block’s learned residual function to its input, y = F(x) + x
- Drops the input and returns zero
- Sorts input channels alphabetically
- Tại sao bỏ qua kết nối lại giúp gradient trong quá trình đào tạo?
- They eliminate the need to train weights
- They force every layer to output zero
- They provide an additional direct path for gradient flow around the learned transformation
- They make deep networks immune to all optimization problems
- How deep was the deepest ResNet evaluated in the original ImageNet paper?
- 18 layers
- 34 layers
- 50 layers
- 152 lớp
- Nếu các lớp của khối dư học F(x) = 0 thì khối đó sẽ làm gì?
- Nó chuyển đầu vào một cách hiệu quả thông qua (danh tính) không thay đổi
- Nó xuất ra số 0 và phá vỡ mạng
- Nó tăng gấp đôi đầu vào
- Nó ngẫu nhiên hóa đầu ra
- What residual connection does the Transformer paper describe around attention and feed-forward sublayers?
- Replace the sublayer input with a class label
- Add each sublayer’s output to the sublayer input through a residual connection
- Average every token globally at the output only
- Remove the residual stream after self-attention
- When a residual block changes channel dimensions, what can a projection shortcut do?
- Convert the input into a text sequence
- Remove the residual branch
- Map the shortcut input to the dimensions required for addition
- Guarantee that every gradient has unit magnitude
- What sequence of convolutions defines the original ResNet bottleneck block?
- Three 3×3 convolutions only
- A 3×3 convolution followed by two fully connected layers
- A pooling layer followed by two transposed convolutions
- A 1×1, then 3×3, then 1×1 convolution