Gids-gekoppelde quiz · Middelmatig Niveau

Voortdurend leren en catastrofale vergeetquiz

Bespreek catastrofaal vergeten, stabiliteitsplasticiteit, EOR, herhaling, taakfamilies en grenzen voor voortdurend leren. Controleer reikwijdte en aannames.

Vraag 1 van 8

Wat is 'catastrofaal vergeten'?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat is 'catastrofaal vergeten'?
    • Wanneer het leren van een nieuwe taak de prestaties op eerder geleerde taken sterk verslechtert
    • Wanneer een model onvoldoende geheugen heeft en crasht
    • Wanneer trainingsgegevens per ongeluk worden verwijderd
    • Wanneer een model weigert voorspellingen te doen
  2. De afweging die de kern vormt van voortdurend leren wordt vaak de:
    • Afweging van bias en variantie
    • Stabiliteits-plasticiteitsdilemma
    • Afweging tussen snelheid en nauwkeurigheid
    • Afweging tussen exploratie en exploitatie
  3. Wat doet elastische gewichtsconsolidatie (EWC)?
    • Verwijdert onbelangrijke neuronen
    • Verdubbelt de leersnelheid voor nieuwe taken
    • Bestraft veranderingen in gewichten die belangrijk zijn voor eerder geleerde taken
    • Slaat elk trainingsvoorbeeld uit het verleden voor altijd op
  4. Hoe bestrijden op herhaling gebaseerde methoden het vergeten?
    • Door het hele netwerk permanent te bevriezen
    • Door gebruik te maken van een groter leertempo
    • Door de verliesfunctie te verwijderen
    • Door opgeslagen of gegenereerde oude voorbeelden in te wisselen voor nieuwe training
  5. How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
    • It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
    • It replaces all prior-task data with new examples
    • It freezes every parameter for all future tasks
    • It increases weights that were unimportant to earlier tasks
  6. Waarom leidt het naïef afstemmen op een nieuwe taak tot vergeten?
    • De GPU raakt oververhit en beschadigt het geheugen
    • Gradiëntdaling verplaatst gedeelde gewichten naar de nieuwe taak, zonder enige beperking om de oude te behouden
    • Nieuwe taken bevatten altijd meer gegevens
    • Het model verwijdert opzettelijk oude gewichten
  7. How does iCaRL classify a test example after learning multiple classes?
    • By retrieving the single closest word in a text corpus
    • By selecting the class with the largest Fisher information
    • By comparing its feature vector with per-class means computed from stored exemplars
    • By replaying every training image at inference
  8. Why is evaluating continual learning more than measuring final accuracy on the newest task?
    • New-task accuracy is the only relevant measure
    • Old tasks are removed from the evaluation
    • The model cannot be tested on multiple tasks
    • A method must also measure retention on prior tasks and its ability to learn new ones