Quiz dotyczący ciągłego uczenia się i katastrofalnego zapominania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Co to jest „katastrofalne zapomnienie”?
   • Uczenie się nowego zadania gwałtownie pogarsza wydajność wcześniej wyuczonych zadań
   • Kiedy w modelu zabraknie pamięci i nastąpi awaria
   • Gdy dane treningowe zostaną przypadkowo usunięte
   • Kiedy model odmawia przewidywania
2. Kompromis leżący u podstaw ciągłego uczenia się jest często nazywany:
   • Kompromis odchylenia i wariancji
   • Dylemat stabilność-plastyczność
   • Kompromis między szybkością a dokładnością
   • Kompromis eksploracja – eksploatacja
3. Do czego służy elastyczna konsolidacja ciężaru (EWC)?
   • Usuwa nieistotne neurony
   • Podwaja tempo uczenia się nowych zadań
   • Penalizuje zmiany ciężarów ważnych dla wcześniej wyuczonych zadań
   • Przechowuje na zawsze każdy przeszły przykład szkolenia
4. W jaki sposób metody oparte na powtórkach pomagają walczyć z zapominaniem?
   • Zamrażając całą sieć na stałe
   • Używając większej szybkości uczenia się
   • Usuwając funkcję straty
   • Poprzez przeplatanie przechowywanych lub wygenerowanych starych przykładów z nowym szkoleniem
5. How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
   • It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
   • It replaces all prior-task data with new examples
   • It freezes every parameter for all future tasks
   • It increases weights that were unimportant to earlier tasks
6. Dlaczego naiwne dopracowywanie nowego zadania powoduje zapomnienie?
   • Procesor graficzny przegrzewa się i uszkadza pamięć
   • Zejście gradientowe przenosi wspólne wagi w stronę nowego zadania, bez ograniczeń związanych z zachowaniem starych
   • Nowe zadania zawsze zawierają więcej danych
   • Model celowo usuwa stare ciężary
7. How does iCaRL classify a test example after learning multiple classes?
   • By retrieving the single closest word in a text corpus
   • By selecting the class with the largest Fisher information
   • By comparing its feature vector with per-class means computed from stored exemplars
   • By replaying every training image at inference
8. Why is evaluating continual learning more than measuring final accuracy on the newest task?
   • New-task accuracy is the only relevant measure
   • Old tasks are removed from the evaluation
   • The model cannot be tested on multiple tasks
   • A method must also measure retention on prior tasks and its ability to learn new ones