Eğitim Verileri İlişkilendirme Testi için Etki İşlevleri

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Etki fonksiyonları hangi karşı-olgusal soruya yakındır?
   • Bir eğitim örneğinin kaldırılması veya ağırlığının arttırılması durumunda test noktasındaki kayıp nasıl değişir?
   • Modelin ortalama olarak ne kadar doğru olduğu
   • Model ne kadar hızlı trenleniyor?
   • Modelin kaç parametresi var
2. Hangi matematiksel nesne, büyük modeller için kesin etki hesaplamasını zorlaştırır?
   • Softmax işlevi
   • Kaybın ters Hessian'ı
   • Öğrenme oranı çizelgesi
   • Toplu iş boyutu
3. 2017'de ünlü bir makalede etkileme işlevlerini modern derin öğrenmeye kim uyarladı?
   • Goodfellow ve Bengio
   • Vaswani ve ark.
   • Koh ve Liang
   • Hinton ve LeCun
4. Koh ve Liang'ın standart I_up,loss kuralına göre negatif bir değer neyi belirtir?
   • The point was not in the training data
   • Upweighting the point is estimated to increase test loss
   • The point has no relationship to the test example
   • Upweighting the point is estimated to lower test loss, so it is helpful
5. Anthropic etki işlevlerini büyük dil modellerine ölçeklendirmek için hangi yaklaşımı kullandı?
   • EK-FAC (Kronecker faktörlü eğrilik)
   • Bırakma
   • Işın arama
   • Karışıklık
6. Anthropic'nin ölçekli çalışması etkili örnekler hakkında ne buldu?
   • Bunlar her zaman çıktının tam kopyalarıdır
   • Genellikle aynı ifadelerden ziyade soyut kalıpları paylaşırlar
   • Rastgele dağıtılıyorlar
   • Yalnızca ilk eğitim örneği önemlidir
7. In the influence-function approximation, what connects a training-example gradient to the effect on a test loss?
   • The test set’s token count
   • A random forest over training labels
   • The inverse Hessian of the training loss
   • The model’s output vocabulary size
8. If removing one training example is estimated to increase a test point’s loss, what does that suggest about the example?
   • It was guaranteed to be a duplicate
   • It had no relationship to the model
   • It necessarily caused the model to overfit
   • It had a helpful influence on that test point under the approximation