Fungsi Pengaruh untuk Kuis Atribusi Data Pelatihan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Pertanyaan kontrafaktual apa yang mempengaruhi perkiraan fungsi?
   • Bagaimana kerugian pada titik pengujian akan berubah jika contoh pelatihan dihapus atau ditingkatkan bobotnya
   • Seberapa akurat rata-rata model tersebut
   • Seberapa cepat model berlatih
   • Berapa banyak parameter yang dimiliki model
2. Objek matematika manakah yang membuat penghitungan pengaruh pasti sulit dilakukan untuk model besar?
   • Fungsi softmax
   • Kebalikan dari kekalahan Goni
   • Jadwal kecepatan pembelajaran
   • Ukuran kumpulan
3. Siapa yang mengadaptasi fungsi pengaruh ke pembelajaran mendalam modern dalam makalah terkenal tahun 2017?
   • Teman baik dan Bengio
   • Vaswani dkk.
   • Koh dan Liang
   • Hinton dan LeCun
4. Under Koh and Liang’s standard I_up,loss convention, what does a negative value indicate?
   • The point was not in the training data
   • Upweighting the point is estimated to increase test loss
   • The point has no relationship to the test example
   • Upweighting the point is estimated to lower test loss, so it is helpful
5. Perkiraan manakah yang digunakan Anthropic untuk menskalakan fungsi pengaruh ke model bahasa besar?
   • EK-FAC (kelengkungan dengan faktor Kronecker)
   • Putus sekolah
   • Pencarian balok
   • campur aduk
6. Apa yang ditemukan oleh studi skala besar Anthropic tentang contoh-contoh yang berpengaruh?
   • Mereka selalu merupakan salinan persis dari keluarannya
   • Mereka sering kali berbagi pola abstrak daripada kata-kata yang identik
   • Mereka didistribusikan secara acak
   • Hanya contoh pelatihan pertama yang penting
7. In the influence-function approximation, what connects a training-example gradient to the effect on a test loss?
   • The test set’s token count
   • A random forest over training labels
   • The inverse Hessian of the training loss
   • The model’s output vocabulary size
8. If removing one training example is estimated to increase a test point’s loss, what does that suggest about the example?
   • It was guaranteed to be a duplicate
   • It had no relationship to the model
   • It necessarily caused the model to overfit
   • It had a helpful influence on that test point under the approximation