Pembelajaran Berkelanjutan dan Kuis Lupa Bencana

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Apa itu 'kelupaan yang membawa bencana'?
   • Saat mempelajari tugas baru, kinerja pada tugas yang dipelajari sebelumnya menurun tajam
   • Saat model kehabisan memori dan crash
   • Ketika data pelatihan terhapus secara tidak sengaja
   • Saat model menolak membuat prediksi
2. Pertukaran yang menjadi inti pembelajaran berkelanjutan sering disebut:
   • Pengorbanan bias-varians
   • Dilema stabilitas-plastisitas
   • Pengorbanan akurasi kecepatan
   • Pertukaran antara eksplorasi dan eksploitasi
3. Apa yang dilakukan Konsolidasi Berat Elastis (EWC)?
   • Menghapus neuron yang tidak penting
   • Menggandakan kecepatan pembelajaran untuk tugas baru
   • Menghukum perubahan bobot yang penting untuk tugas yang dipelajari sebelumnya
   • Menyimpan setiap contoh pelatihan sebelumnya selamanya
4. Bagaimana metode berbasis replay memerangi lupa?
   • Dengan membekukan seluruh jaringan secara permanen
   • Dengan menggunakan learning rate yang lebih besar
   • Dengan menghapus fungsi kerugian
   • Dengan menyisipkan contoh-contoh lama yang disimpan atau dihasilkan ke dalam pelatihan baru
5. How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
   • It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
   • It replaces all prior-task data with new examples
   • It freezes every parameter for all future tasks
   • It increases weights that were unimportant to earlier tasks
6. Mengapa penyesuaian yang naif pada tugas baru menyebabkan lupa?
   • GPU terlalu panas dan merusak memori
   • Penurunan gradien memindahkan bobot bersama menuju tugas baru tanpa kendala untuk mempertahankan tugas lama
   • Tugas baru selalu memiliki lebih banyak data
   • Model tersebut sengaja menghapus bobot lama
7. How does iCaRL classify a test example after learning multiple classes?
   • By retrieving the single closest word in a text corpus
   • By selecting the class with the largest Fisher information
   • By comparing its feature vector with per-class means computed from stored exemplars
   • By replaying every training image at inference
8. Why is evaluating continual learning more than measuring final accuracy on the newest task?
   • New-task accuracy is the only relevant measure
   • Old tasks are removed from the evaluation
   • The model cannot be tested on multiple tasks
   • A method must also measure retention on prior tasks and its ability to learn new ones