Викторина по поиску нейронной архитектуры

Ответы и пояснения появляются по мере прохождения теста.

1. Что автоматизирует поиск нейронной архитектуры?
   • Проектирование структуры нейронной сети
   • Маркировка данных обучения
   • Охлаждение графических серверов
   • Написание документации для моделей.
2. Какие три компонента определяют метод NAS?
   • Набор данных, оптимизатор и отсев
   • Пространство поиска, стратегия поиска и оценка производительности
   • Кодер, декодер и внимание
   • Наборы для обучения, проверки и тестирования
3. What accelerator scale did the original reinforcement-learning NAS paper report for its large search?
   • One GPU for every NAS method
   • A fixed cost of exactly 1,000 GPU-days for every search
   • An experiment using 800 GPUs in that study
   • No accelerator use during architecture search
4. Какой ключевой трюк использует DARTS для повышения эффективности поиска?
   • Он обучается на одном примере
   • Удаляет все скрытые слои
   • Он использует только случайный поиск
   • Это превращает выбор дискретной архитектуры в непрерывную, оптимизируемую с помощью градиентов.
5. Что такое «суперсеть» в NAS с разделением веса?
   • Одна сверхпараметризованная сеть, содержащая все возможные архитектуры, веса которых являются общими.
   • Сеть с миллиардами параметров
   • Сеть, работающая только на суперкомпьютерах
   • Резервная копия модели
6. What did the HURRICANE hardware-aware NAS study evaluate?
   • One architecture that is guaranteed optimal on every device
   • Tailored architectures for three hardware types under matched latency constraints
   • A language model trained without any hardware measurements
   • A method that removes latency from architecture evaluation
7. What is one limitation of weight-sharing NAS supernets?
   • They remove all architecture choices
   • They guarantee the globally best architecture
   • The shared weights can bias architecture rankings relative to training each candidate independently
   • They do not use neural networks
8. What does a NAS evaluation need to report for a fair comparison?
   • Only the best test score
   • The GPU brand alone
   • The model name without settings
   • Search space, compute budget, validation protocol, and final retraining setup