Quiz dotyczący wyszukiwania architektury neuronowej

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Co automatyzuje wyszukiwanie architektury neuronowej?
   • Projektowanie struktury sieci neuronowej
   • Etykietowanie danych szkoleniowych
   • Chłodzenie serwerów GPU
   • Pisanie dokumentacji do modeli
2. Które trzy elementy definiują metodę NAS?
   • Zbiór danych, optymalizator i porzucenie
   • Przestrzeń wyszukiwania, strategia wyszukiwania i szacowanie wydajności
   • Koder, dekoder i uwaga
   • Zestawy szkoleniowe, walidacyjne i testowe
3. What accelerator scale did the original reinforcement-learning NAS paper report for its large search?
   • One GPU for every NAS method
   • A fixed cost of exactly 1,000 GPU-days for every search
   • An experiment using 800 GPUs in that study
   • No accelerator use during architecture search
4. Jakiej kluczowej sztuczki używa DARTS, aby zwiększyć efektywność wyszukiwania?
   • Trenuje na jednym przykładzie
   • Usuwa wszystkie ukryte warstwy
   • Używa tylko wyszukiwania losowego
   • Rozluźnia dyskretne wybory architektoniczne na ciągłe, które można optymalizować za pomocą gradientów
5. Co to jest „supersieć” w serwerze NAS z podziałem obciążenia?
   • Jedna nadmiernie sparametryzowana sieć zawierająca wszystkie architektury kandydujące, których wagi są wspólne
   • Sieć z miliardami parametrów
   • Sieć działająca wyłącznie na superkomputerach
   • Kopia zapasowa modelu
6. What did the HURRICANE hardware-aware NAS study evaluate?
   • One architecture that is guaranteed optimal on every device
   • Tailored architectures for three hardware types under matched latency constraints
   • A language model trained without any hardware measurements
   • A method that removes latency from architecture evaluation
7. What is one limitation of weight-sharing NAS supernets?
   • They remove all architecture choices
   • They guarantee the globally best architecture
   • The shared weights can bias architecture rankings relative to training each candidate independently
   • They do not use neural networks
8. What does a NAS evaluation need to report for a fair comparison?
   • Only the best test score
   • The GPU brand alone
   • The model name without settings
   • Search space, compute budget, validation protocol, and final retraining setup