Kvíz spojený s průvodcem · Střední úroveň

Neustálé učení a kvíz katastrofického zapomínání

Prohlédněte si katastrofické zapomínání, stabilitu-plasticitu, EWC, přehrávání, skupiny úloh a limity neustálého učení. Zkontrolujte rozsah a předpoklady.

Otázka 1 z 8

Co je to „katastrofické zapomínání“?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Co je to „katastrofické zapomínání“?
    • Když se učí nový úkol, prudce snižuje výkon u dříve naučených úkolů
    • Když modelu dojde paměť a dojde k jeho zhroucení
    • Když dojde k náhodnému smazání tréninkových dat
    • Když modelka odmítá dělat předpovědi
  2. Kompromis v srdci neustálého učení se často nazývá:
    • Kompromis odchylky a odchylky
    • Dilema stability a plasticity
    • Kompromis rychlosti a přesnosti
    • Kompromis mezi průzkumem a exploatací
  3. Co dělá elastická konsolidace hmotnosti (EWC)?
    • Odstraňuje nedůležité neurony
    • Zdvojnásobuje rychlost učení pro nové úkoly
    • Penalizuje změny vah důležité pro dříve naučené úkoly
    • Ukládá každý minulý tréninkový příklad navždy
  4. Jak metody založené na přehrávání bojují proti zapomínání?
    • Trvalým zmrazením celé sítě
    • Použitím vyšší míry učení
    • Odstraněním funkce ztráty
    • Prokládáním uložených nebo vygenerovaných starých příkladů do nového školení
  5. Jak Gradient Episodic Memory (GEM) omezuje aktualizaci gradientu při učení nového úkolu?
    • It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
    • It replaces all prior-task data with new examples
    • It freezes every parameter for all future tasks
    • It increases weights that were unimportant to earlier tasks
  6. Proč naivní dolaďování nového úkolu způsobuje zapomínání?
    • GPU se přehřívá a poškozuje paměť
    • Gradientní sestup posouvá sdílené váhy směrem k novému úkolu bez omezení na zachování starých
    • Nové úkoly mají vždy více dat
    • Model záměrně maže staré váhy
  7. How does iCaRL classify a test example after learning multiple classes?
    • By retrieving the single closest word in a text corpus
    • By selecting the class with the largest Fisher information
    • By comparing its feature vector with per-class means computed from stored exemplars
    • By replaying every training image at inference
  8. Why is evaluating continual learning more than measuring final accuracy on the newest task?
    • New-task accuracy is the only relevant measure
    • Old tasks are removed from the evaluation
    • The model cannot be tested on multiple tasks
    • A method must also measure retention on prior tasks and its ability to learn new ones