Sürekli Öğrenme ve Felaketli Unutma
Sürekli öğrenme, yapay zekanın zaten bildiklerini silmeden, zaman içinde yeni görevler akışı konusunda eğitilmesinin amacıdır.
Genel Bakış
Its central obstacle is catastrophic forgetting: when a neural network learns a new task, gradient updates overwrite the weights that encoded earlier tasks, and old skills collapse.
Derin Dalış
Standart sinir ağları tüm verilerin aynı anda mevcut olduğunu varsayar. Gerçek dünyada, veriler sırayla gelir ve yeni görevlere safça ince ayar yapmak felaketle sonuçlanacak bir unutmaya neden olur; paylaşılan ağırlıklar yeniden yazıldığından önceki görevlerdeki performans düşer. Sürekli öğrenme, klasik istikrar-plastisite ikilemi olan plastisiteye (yeni bilginin özümsenmesi) karşı istikrarı (eski bilgiyi korumak) dengelemeyi amaçlar. Üç ana çözüm ailesi mevcuttur: Eski görevler için önemli olduğu düşünülen ağırlıklardaki değişiklikleri cezalandıran Elastik Ağırlık Konsolidasyonu gibi düzenleme yöntemleri; geçmiş görevlerden örnekler saklayan veya üreten ve bunları eğitim sırasında araya ekleyen yeniden oynatma yöntemleri; ve göreve yeni parametreler veya modüller tahsis eden mimari yöntemler. Hiçbir yöntem bu sorunu tam olarak çözemez ve değerlendirme, görev, etki alanı ve sınıf artımlı ayarları kapsar.
Teknik Bilgi
Yeni bir görevdeki gradyan inişinin, eski görevler için iyi olan bölgelere yakın kalma kısıtlaması olmadan, paylaşılan ağırlıkları yeni bir optimuma doğru taşıması nedeniyle felaketle sonuçlanan unutma ortaya çıkar. Elastik Ağırlık Konsolidasyonu, her bir ağırlığın önemini (Fisher bilgi matrisi aracılığıyla) tahmin eder ve önemli ağırlıkları eski değerlerinin yakınına sabitleyen ikinci dereceden bir ceza ekler. Yeniden oynatma, depolanan veya oluşturulan eski örnekleri yeni gruplar halinde karıştırarak orijinal ortak dağılıma yaklaşır, böylece degradeler hem eski hem de yeni görevleri yansıtır ve yıkıcı üzerine yazmayı azaltır.
Stratejik Etki
Daha net kararlar
Açık teknik iddiaları pazarlama dilinden ayırmanıza yardımcı olur.
Maliyet ve bütçe
Para veya zaman harcamadan önce daha iyi uygulama soruları sorabilirsiniz.
Ekip ve iş akışı
Ortak anlayışa sahip ekipler daha iyi ürün, politika ve öğrenme kararları verir.
Sürekli Öğrenmenin ve Felaketli Unutmanın Geleceği
Büyük modelleri tam ve maliyetli yeniden eğitim olmadan güncel tutmak için sürekli öğrenme giderek daha kritik hale geliyor. Araştırma, parametre açısından verimli sürekli güncellemeler (bağdaştırıcılar, görev başına eklenen LoRA modülleri), üretken modeller kullanarak daha iyi tekrar oynatma ve temel modellerdeki bilgiyi güncellerken unutmayı ve istenmeyen kaymayı önleyen yöntemlere doğru ilerliyor. Cihazda öğrenen ömür boyu aracılara, ham verilerin depolanmasını önleyen gizliliği koruyan tekrar oynatmaya ve düzenli görev sınırları yerine gerçekçi, sabit olmayan veri akışlarını daha iyi yansıtan kıyaslamalara daha sıkı bağlantılar bekleyebilirsiniz.
Gerçek Dünya Uygulaması
Her ay daha öncekileri unutmadan yeni ürün kategorilerini öğrenmesi gereken konuşlandırılmış bir görüntü sınıflandırıcı.
Genel doğruluğu kaybetmeden zaman içinde kullanıcıya uyum sağlayan cihaz içi kişiselleştirme (klavye veya sesli asistan).
Daha önce ustalaşmış olanları korurken, sırayla yeni manipülasyon becerileri kazanan robotlar.
Önceki yeteneklerin korunması için bağdaştırıcılar kullanılarak bir dil modelinin yeni gerçekler veya alan adlarıyla güncellenmesi.
Riskler ve Korkuluklar
Farklı ekipler aynı terimi farklı şekilde kullanabilir; bu nedenle kapsamı erken tanımlayın.
Gerçek dünya performansı dengesizken karşılaştırmalar güçlü görünebilir.
Veri kalitesini ve değerlendirme planlarını göz ardı etmek çoğu zaman hassas sonuçlar doğurur.
Uygulama Yol Haritası
İhtiyacınız olan sonucun sade bir dille tanımlanmasıyla başlayın.
Test etmeden önce bir başarı ölçüsü ve bir başarısızlık koşulu seçin.
Gösterişli bir demo seti yerine, temsili verilerle küçük bir pilot çalışma yürütün.
Sürekli Öğrenmenin ve Felaketli Unutmanın nerede yardımcı olduğunu ve daha basit yöntemlerin nerede daha iyi olduğunu belgeleyin.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Continual Learning and Catastrophic Forgetting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Felaket Unutuş
Sık sorulan sorular
What is Continual Learning and Catastrophic Forgetting?
Sürekli öğrenme, yapay zekanın zaten bildiklerini silmeden, zaman içinde yeni görevler akışı konusunda eğitilmesinin amacıdır. Bunun temel engeli ise yıkıcı unutkanlıktır: Bir sinir ağı yeni bir görevi öğrendiğinde, kademeli güncellemeler daha önceki görevleri kodlayan ağırlıkların üzerine yazılır ve eski beceriler çöker.
'Felaketsel unutma' nedir?
Yıkıcı unutma, yeni bir şey öğrenirken bir ağın paylaşılan ağırlıklarının üzerine yazıldığında eski görev performansının keskin bir şekilde kaybedilmesidir.
Elastik Ağırlık Konsolidasyonu (EWC) ne işe yarar?
EWC, eski görevler için önemli olduğu düşünülen ağırlıkları sabitleyen ve unutmayı azaltan bir ceza ekler (Fisher bilgilerini kullanarak).
Tekrarlamaya dayalı yöntemler unutmayla nasıl mücadele eder?
Replay, geçmiş örnekleri yeni gruplarla karıştırır, böylece degradeler hem eski hem de yeni görevleri yansıtır ve orijinal bağlantı verilerine yaklaşır.
Hangisi sürekli öğrenme yöntemlerinin üç ana ailesinden biri DEĞİLDİR?
Üç ana aile; düzenleme, tekrar oynatma ve mimari yöntemlerdir; sıkıştırma bunlardan biri değil.
Yeni bir göreve safça ince ayar yapmak neden unutmaya neden olur?
Kısıtlanmamış degrade güncellemeleri, paylaşılan ağırlıkları yeni optimuma doğru yeniden yazar ve önceki görevler için iyi olan bölgeleri terk eder.