Вікторина, пов’язана з посібником · Середній Рівень

Вікторина щодо залишкових мереж

Ознайомтеся з обчисленнями залишкових блоків, швидкими клавішами ідентифікації, градієнтними шляхами, глибиною епохи ImageNet і тим, як залишки повторюються в нейронних архітектурах.

Пов'язані напрямні шляхиЗалишкові мережі
Питання 1 з 8

Яку проблему конкретно вирішували залишкові з’єднання?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Яку проблему конкретно вирішували залишкові з’єднання?
    • Глибші рівні мережі тренуються гірше, ніж мілкі (деградація)
    • Зображення мають занадто низьку роздільну здатність
    • Брак мічених навчальних даних
    • Графічним процесорам не вистачає пам’яті
  2. What does a basic residual block compute when input and output dimensions match?
    • Multiplies the input by itself
    • Adds the block’s learned residual function to its input, y = F(x) + x
    • Drops the input and returns zero
    • Sorts input channels alphabetically
  3. Чому пропуск з’єднань допомагає градієнтам під час навчання?
    • They eliminate the need to train weights
    • They force every layer to output zero
    • They provide an additional direct path for gradient flow around the learned transformation
    • They make deep networks immune to all optimization problems
  4. How deep was the deepest ResNet evaluated in the original ImageNet paper?
    • 18 layers
    • 34 layers
    • 50 layers
    • 152 шари
  5. Якщо шари залишкового блоку вивчають F(x) = 0, що робить блок?
    • Він фактично пропускає вхідні дані через незмінний (ідентичність)
    • Видає нуль і розриває мережу
    • Це подвоює вхід
    • Він рандомізує вихід
  6. What residual connection does the Transformer paper describe around attention and feed-forward sublayers?
    • Replace the sublayer input with a class label
    • Add each sublayer’s output to the sublayer input through a residual connection
    • Average every token globally at the output only
    • Remove the residual stream after self-attention
  7. When a residual block changes channel dimensions, what can a projection shortcut do?
    • Convert the input into a text sequence
    • Remove the residual branch
    • Map the shortcut input to the dimensions required for addition
    • Guarantee that every gradient has unit magnitude
  8. What sequence of convolutions defines the original ResNet bottleneck block?
    • Three 3×3 convolutions only
    • A 3×3 convolution followed by two fully connected layers
    • A pooling layer followed by two transposed convolutions
    • A 1×1, then 3×3, then 1×1 convolution