Gids-gekoppelde quiz · Middelmatig Niveau
Voortdurend leren en catastrofale vergeetquiz
Bespreek catastrofaal vergeten, stabiliteitsplasticiteit, EOR, herhaling, taakfamilies en grenzen voor voortdurend leren. Controleer reikwijdte en aannames.
Vraag 1 van 8
Wat is 'catastrofaal vergeten'?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat is 'catastrofaal vergeten'?
- Wanneer het leren van een nieuwe taak de prestaties op eerder geleerde taken sterk verslechtert
- Wanneer een model onvoldoende geheugen heeft en crasht
- Wanneer trainingsgegevens per ongeluk worden verwijderd
- Wanneer een model weigert voorspellingen te doen
- De afweging die de kern vormt van voortdurend leren wordt vaak de:
- Afweging van bias en variantie
- Stabiliteits-plasticiteitsdilemma
- Afweging tussen snelheid en nauwkeurigheid
- Afweging tussen exploratie en exploitatie
- Wat doet elastische gewichtsconsolidatie (EWC)?
- Verwijdert onbelangrijke neuronen
- Verdubbelt de leersnelheid voor nieuwe taken
- Bestraft veranderingen in gewichten die belangrijk zijn voor eerder geleerde taken
- Slaat elk trainingsvoorbeeld uit het verleden voor altijd op
- Hoe bestrijden op herhaling gebaseerde methoden het vergeten?
- Door het hele netwerk permanent te bevriezen
- Door gebruik te maken van een groter leertempo
- Door de verliesfunctie te verwijderen
- Door opgeslagen of gegenereerde oude voorbeelden in te wisselen voor nieuwe training
- How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
- It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
- It replaces all prior-task data with new examples
- It freezes every parameter for all future tasks
- It increases weights that were unimportant to earlier tasks
- Waarom leidt het naïef afstemmen op een nieuwe taak tot vergeten?
- De GPU raakt oververhit en beschadigt het geheugen
- Gradiëntdaling verplaatst gedeelde gewichten naar de nieuwe taak, zonder enige beperking om de oude te behouden
- Nieuwe taken bevatten altijd meer gegevens
- Het model verwijdert opzettelijk oude gewichten
- How does iCaRL classify a test example after learning multiple classes?
- By retrieving the single closest word in a text corpus
- By selecting the class with the largest Fisher information
- By comparing its feature vector with per-class means computed from stored exemplars
- By replaying every training image at inference
- Why is evaluating continual learning more than measuring final accuracy on the newest task?
- New-task accuracy is the only relevant measure
- Old tasks are removed from the evaluation
- The model cannot be tested on multiple tasks
- A method must also measure retention on prior tasks and its ability to learn new ones