Eğitim Verileri İlişkilendirmesine Yönelik Etkileme İşlevleri

Etki fonksiyonları sağlam istatistiklerden gelir ve 2017'de Koh ve Liang tarafından derin öğrenmeye uyarlanmıştır. Temel soru karşı olgusaldır: Belirli bir eğitim örneği kaldırılırsa veya ağırlık artırılırsa modelin bir test noktasındaki kaybı nasıl değişir? Gerçekten yeniden eğitim almak yerine (ki bu son derece pahalıdır), etki fonksiyonları hesaplamayı kullanarak bu değişimin yaklaşık değerini hesaplar. Eğitim noktası ve test noktası için kaybın gradyanını hesaplarlar, ardından bunları modelin parametre uzayının eğriliğini yakalayan kaybın ters Hessian'ı aracılığıyla bağlarlar. Koh ve Liang'ın standart test kaybı üzerine ağırlıklandırma kuralına göre I_up,loss, bir eğitim noktasının ağırlığını sonsuz derecede artırmanın seçilen bir test noktasındaki kaybı ne kadar değiştirdiğini ölçer. Pozitif bir değer, ağırlığı artırmanın test kaybını (zararlı bir etki) artırdığı anlamına gelir; negatif bir değer, test kaybını azalttığı anlamına gelir (yararlı bir etki). Bir noktanın kaldırılması, birinci dereceden tahmin edilen değişimin işaretini tersine çevirir. Diğer etki puanları tahminleri hedefleyebilir veya farklı bir işaret kuralı kullanabilir; dolayısıyla işaretini yorumlamadan önce miktarı tanımlayın. Sonuç olarak en sorumlu eğitim örneklerinin sıralanmış bir listesi ortaya çıkar.