Kvíz spojený s průvodcem · Střední úroveň
Neustálé učení a kvíz katastrofického zapomínání
Prohlédněte si katastrofické zapomínání, stabilitu-plasticitu, EWC, přehrávání, skupiny úloh a limity neustálého učení. Zkontrolujte rozsah a předpoklady.
Otázka 1 z 8
Co je to „katastrofické zapomínání“?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co je to „katastrofické zapomínání“?
- Když se učí nový úkol, prudce snižuje výkon u dříve naučených úkolů
- Když modelu dojde paměť a dojde k jeho zhroucení
- Když dojde k náhodnému smazání tréninkových dat
- Když modelka odmítá dělat předpovědi
- Kompromis v srdci neustálého učení se často nazývá:
- Kompromis odchylky a odchylky
- Dilema stability a plasticity
- Kompromis rychlosti a přesnosti
- Kompromis mezi průzkumem a exploatací
- Co dělá elastická konsolidace hmotnosti (EWC)?
- Odstraňuje nedůležité neurony
- Zdvojnásobuje rychlost učení pro nové úkoly
- Penalizuje změny vah důležité pro dříve naučené úkoly
- Ukládá každý minulý tréninkový příklad navždy
- Jak metody založené na přehrávání bojují proti zapomínání?
- Trvalým zmrazením celé sítě
- Použitím vyšší míry učení
- Odstraněním funkce ztráty
- Prokládáním uložených nebo vygenerovaných starých příkladů do nového školení
- Jak Gradient Episodic Memory (GEM) omezuje aktualizaci gradientu při učení nového úkolu?
- It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
- It replaces all prior-task data with new examples
- It freezes every parameter for all future tasks
- It increases weights that were unimportant to earlier tasks
- Proč naivní dolaďování nového úkolu způsobuje zapomínání?
- GPU se přehřívá a poškozuje paměť
- Gradientní sestup posouvá sdílené váhy směrem k novému úkolu bez omezení na zachování starých
- Nové úkoly mají vždy více dat
- Model záměrně maže staré váhy
- How does iCaRL classify a test example after learning multiple classes?
- By retrieving the single closest word in a text corpus
- By selecting the class with the largest Fisher information
- By comparing its feature vector with per-class means computed from stored exemplars
- By replaying every training image at inference
- Why is evaluating continual learning more than measuring final accuracy on the newest task?
- New-task accuracy is the only relevant measure
- Old tasks are removed from the evaluation
- The model cannot be tested on multiple tasks
- A method must also measure retention on prior tasks and its ability to learn new ones