Вікторина, пов’язана з посібником · Середній Рівень
Тест на гіпотезу лотерейного квитка
Перевірте своє розуміння лотерейних квитків, ініціалізації, скорочення та обмежень тверджень щодо розріджених нейронних мереж.
Питання 1 з 8
Що таке «виграшний квиток» у цій гіпотезі?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- Що таке «виграшний квиток» у цій гіпотезі?
- Розріджена підмережа, яка, навчена з початкової ініціалізації, відповідає повній мережі
- Мережа з більшою кількістю параметрів, ніж зазвичай
- Попередньо підготовлена модель, завантажена з Інтернету
- Випадково вгаданий набір гіперпараметрів
- In the original lottery-ticket experiments, what was paired with the discovered sparse mask when retraining a ticket?
- Fresh random values for every surviving weight
- The surviving weights’ matched original initialization
- A different architecture for each pruning round
- The final trained weights with no resetting
- Хто запропонував гіпотезу лотерейного квитка?
- Гудфеллоу (2014)
- Крижевський, Суцкевер, Хінтон (2012)
- Франкл і Карбін (2018)
- Сільвер і колеги (2016)
- Which procedure did the original Lottery Ticket Hypothesis paper use to identify winning tickets?
- Randomly remove a fixed half of all weights once
- Iterative magnitude pruning with a reset to the original initialization
- Add dropout after each pruning round
- Increase the learning rate after every epoch
- How should the idea that overparameterization helps optimization find a trainable sparse structure be described?
- A conjecture or proposed explanation, not a result established by the original experiments
- A theorem proven for every neural-network architecture
- A guarantee that all weights can be removed without loss
- A claim that pruning eliminates the need for training data
- What does a strong lottery-ticket result claim in its theoretical setting?
- Every randomly initialized network already solves any task
- A sufficiently overparameterized randomly initialized network can contain a pruned subnetwork that approximates a target without further weight training
- Pruning always preserves the trained model’s accuracy
- A sparse network never needs data
- What does iterative magnitude pruning remove at each pruning step?
- The training examples with the lowest labels
- The neurons with the most outgoing connections
- Weights with the smallest magnitudes
- All weights in the final layer
- Which datasets were used in the original paper’s reported lottery-ticket experiments?
- ImageNet and COCO only
- LibriSpeech and Common Voice
- SQuAD and GLUE
- MNIST and CIFAR-10