Yıkıcı Unutma Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Hangi durum bir sinir ağında yıkıcı unutmayı tanımlar?
   • Yeni bir görevi öğrenmek modelin önceden öğrenilen yeteneklerini kaybetmesine neden olduğunda
   • Çıkarım sırasında bir modelin belleği tükendiğinde
   • Egzersiz verileri yanlışlıkla silindiğinde
   • Bir model bir soruyu yanıtlamayı reddettiğinde
2. Sinir ağlarında neden yıkıcı unutma oluyor?
   • Çünkü her görev otomatik olarak kendi ayrı ağını alır
   • Çünkü yeni degrade güncellemeleri eski becerileri kodlayan paylaşılan ağırlıkların üzerine yazıyor
   • Çünkü modeller birden fazla gerçeği saklayamaz
   • Çünkü dikkat katmanları verileri bilerek siliyor
3. Elastik Ağırlık Konsolidasyonu (EWC) unutmayı azaltmak için ne yapar?
   • Yeni görevin verilerini siler
   • Öğrenme oranını iki katına çıkarır
   • Daha önce öğrenilen görevler için önemli olan ağırlıklardaki değişiklikleri cezalandırır
   • Dikkati modelden uzaklaştırır
4. Deneyim tekrarı (prova) unutmayla nasıl mücadele eder?
   • Tüm modeli kalıcı olarak dondurarak
   • Yalnızca en yeni veriler üzerinde eğitim alarak
   • Katman sayısını azaltarak
   • Yeni eğitim sırasında depolanan eski örnekleri serpiştirerek
5. LoRA, göreve özel bir adaptör eklerken temel model ağırlıklarına ne yapar?
   • It freezes base weights and trains a low-rank adapter, which may reduce direct interference but does not guarantee retention
   • It rewrites every base weight for each new task
   • It stores no task-specific parameters
   • It guarantees zero forgetting on every task sequence
6. Geri getirmenin artırıldığı bir yaklaşım, yıkıcı unutmayı nasıl önleyebilir?
   • Yer açmak için eski bilgileri silerek
   • Yeni bilgiyi ağırlıklar yerine harici bir veritabanında depolayarak
   • Sürekli olarak rastgele gürültü üzerinde eğitim alarak
   • Modelin hafızasını tamamen devre dışı bırakarak
7. How does Gradient Episodic Memory (GEM) constrain learning on a new task?
   • It removes old task examples from memory
   • It changes the model to a nearest-class-mean classifier
   • It adjusts the gradient so the first-order approximation does not increase loss on stored prior-task examples
   • It adds a KL penalty to every parameter regardless of task
8. How do RAG-Token and RAG-Sequence differ in the original RAG paper?
   • RAG-Token removes retrieval while RAG-Sequence removes generation
   • RAG-Sequence uses images while RAG-Token uses audio
   • RAG-Token trains without model parameters
   • RAG-Token marginalizes retrieved documents per output token, while RAG-Sequence uses one document for a whole sequence