Вікторина по обрізці моделей

Відповіді та пояснення з’являються під час виконання тесту.

1. Що видаляє скорочення моделі з навченої мережі?
   • Видалення ваг або структур, які мало сприяють виходу
   • Додавання додаткових параметрів для підвищення точності
   • Підготовка моделі для більшої кількості епох
   • Збільшення вхідної роздільної здатності
2. Чим структурована обрізка відрізняється від неструктурованої?
   • Структуроване скорочення працює лише на зображеннях
   • Структуроване обрізання видаляє цілі одиниці, такі як нейрони або головки; unstructured видаляє індивідуальні ваги
   • Безструктурна обрізка вимагає перенавчання з нуля
   • Практичної різниці між ними немає
3. Чому неструктуроване скорочення часто не прискорює модель на звичайному обладнанні?
   • Він видаляє забагато шарів
   • Це завжди зводить точність до нуля
   • Розріджені вагові матриці потребують спеціального обладнання або бібліотек для використання нулів
   • Це збільшує кількість параметрів
4. Який типовий ітеративний рецепт обрізки?
   • Обріжте все відразу, а потім розгорніть
   • Спочатку квантуйте, а потім ніколи не перенавчайтеся
   • Довільно видаляйте шари, доки точність не впаде
   • Тренуйтеся, обрізайте найменш важливі параметри, налаштовуйте для відновлення та повторюйте
5. Що стверджує гіпотеза лотерейного квитка?
   • Щільні мережі містять розріджені підмережі, які можуть збігатися з повною моделлю за умови навчання з правильної ініціалізації
   • Обрізка завжди підвищує точність
   • Довільна обрізка завжди найкраща
   • Великі моделі не можна стискати
6. Який простий критерій зазвичай використовується, щоб вирішити, які вагові коефіцієнти обрізати?
   • Алфавітний порядок назв шарів
   • Абсолютна величина ваг
   • Колір карт активації
   • Кількість навчальних прикладів
7. When is pruning most likely to reduce inference latency on ordinary dense hardware?
   • When individual zeros are added but the dense kernel still computes them
   • When the model is renamed without changing its graph
   • When whole channels or other structures are removed to produce a smaller dense model
   • When a sparse checkpoint is stored in a larger file
8. What should a team measure after pruning for a deployment target?
   • Only the number of zeros in a checkpoint
   • Only training accuracy before pruning
   • Whether the file extension changed
   • Task quality and latency or memory on the intended hardware