Sürekli Öğrenme ve Felaket Unutma Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. 'Felaketsel unutma' nedir?
   • Yeni bir görev öğrenirken, daha önce öğrenilen görevlerin performansı keskin bir şekilde düştüğünde
   • Bir modelin belleği tükendiğinde ve çöktüğünde
   • Egzersiz verileri yanlışlıkla silindiğinde
   • Bir model tahminde bulunmayı reddettiğinde
2. Sürekli öğrenmenin kalbinde yer alan değiş tokuşa genellikle şu ad verilir:
   • Önyargı-varyans değiş tokuşu
   • Kararlılık-plastisite ikilemi
   • Hız-doğruluk dengesi
   • Keşif-sömürü değiş tokuşu
3. Elastik Ağırlık Konsolidasyonu (EWC) ne işe yarar?
   • Önemsiz nöronları siler
   • Yeni görevler için öğrenme oranını iki katına çıkarır
   • Daha önce öğrenilen görevler için önemli olan ağırlıklardaki değişiklikleri cezalandırır
   • Geçmişteki tüm eğitim örneklerini sonsuza kadar saklar
4. Tekrarlamaya dayalı yöntemler unutmayla nasıl mücadele eder?
   • Tüm ağı kalıcı olarak dondurarak
   • Daha büyük bir öğrenme oranı kullanarak
   • Kayıp fonksiyonunu kaldırarak
   • Saklanan veya oluşturulan eski örnekleri yeni eğitime ekleyerek
5. How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
   • It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
   • It replaces all prior-task data with new examples
   • It freezes every parameter for all future tasks
   • It increases weights that were unimportant to earlier tasks
6. Yeni bir göreve safça ince ayar yapmak neden unutmaya neden olur?
   • GPU aşırı ısınıyor ve belleği bozuyor
   • Kademeli iniş, eski ağırlıkların korunmasına yönelik hiçbir kısıtlama olmaksızın, paylaşılan ağırlıkları yeni göreve doğru taşır
   • Yeni görevler her zaman daha fazla veriye sahiptir
   • Model kasıtlı olarak eski ağırlıkları siler
7. How does iCaRL classify a test example after learning multiple classes?
   • By retrieving the single closest word in a text corpus
   • By selecting the class with the largest Fisher information
   • By comparing its feature vector with per-class means computed from stored exemplars
   • By replaying every training image at inference
8. Why is evaluating continual learning more than measuring final accuracy on the newest task?
   • New-task accuracy is the only relevant measure
   • Old tasks are removed from the evaluation
   • The model cannot be tested on multiple tasks
   • A method must also measure retention on prior tasks and its ability to learn new ones