Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Folyamatos tanulás és katasztrofális felejtés kvíz
Review catastrophic forgetting, stability-plasticity, EWC, replay, task families, and continual-learning limits. Check scope and assumptions.
kérdés 1 -ból 8
Mi az a „katasztrofális felejtés”?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mi az a „katasztrofális felejtés”?
- Egy új feladat megtanulása jelentősen rontja a korábban tanult feladatok teljesítményét
- Amikor egy modellnek elfogy a memóriája és összeomlik
- Ha az edzésadatok véletlenül törlődnek
- Amikor egy modell nem hajlandó jóslatokat tenni
- A folyamatos tanulás középpontjában álló kompromisszumot gyakran nevezik:
- Bias-variance kompromisszum
- Stabilitás-plaszticitás dilemma
- Sebesség-pontosság kompromisszum
- Kutatás-kitermelés kompromisszum
- Mit csinál a rugalmas súlykonszolidáció (EWC)?
- Törli a nem fontos neuronokat
- Megduplázza az új feladatok tanulási sebességét
- Bünteti a korábban megtanult feladatokhoz fontos súlyok megváltoztatását
- Minden korábbi edzéspéldát örökre tárol
- Hogyan küzdenek a visszajátszáson alapuló módszerek a felejtés ellen?
- A teljes hálózat végleges lefagyasztásával
- Nagyobb tanulási sebesség használatával
- A veszteségfüggvény eltávolításával
- A tárolt vagy generált régi példák új képzésbe való beillesztésével
- How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
- It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
- It replaces all prior-task data with new examples
- It freezes every parameter for all future tasks
- It increases weights that were unimportant to earlier tasks
- Miért okoz felejtést egy új feladat naiv finomhangolása?
- A GPU túlmelegszik és megsérti a memóriát
- A gradiens süllyedés a megosztott súlyokat az új feladat felé mozgatja anélkül, hogy meg kellene őriznie a régieket
- Az új feladatok mindig több adattal rendelkeznek
- A modell szándékosan törli a régi súlyokat
- How does iCaRL classify a test example after learning multiple classes?
- By retrieving the single closest word in a text corpus
- By selecting the class with the largest Fisher information
- By comparing its feature vector with per-class means computed from stored exemplars
- By replaying every training image at inference
- Why is evaluating continual learning more than measuring final accuracy on the newest task?
- New-task accuracy is the only relevant measure
- Old tasks are removed from the evaluation
- The model cannot be tested on multiple tasks
- A method must also measure retention on prior tasks and its ability to learn new ones