Kuiz berkaitan panduan · Keras Tahap

Fungsi Pengaruh untuk Kuiz Atribusi Data Latihan

Menyemak kontrafaktual fungsi pengaruh, anggaran Hessian, maksud tanda pengaruh dan atribusi data dalam model bahasa.

Laluan panduan yang berkaitanFungsi Pengaruh Untuk Atribusi Data Latihan
soalan 1 daripada 8

Soalan kontrafaktual apakah yang mempengaruhi fungsi anggaran?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Soalan kontrafaktual apakah yang mempengaruhi fungsi anggaran?
    • Bagaimana kehilangan pada titik ujian akan berubah jika contoh latihan dialih keluar atau ditimbang
    • Sejauh mana ketepatan model secara purata
    • Betapa pantas model itu berlatih
    • Berapa banyak parameter model itu
  2. Objek matematik yang manakah menjadikan pengiraan pengaruh tepat sukar dikawal untuk model besar?
    • Fungsi softmax
    • Hessian songsang bagi kerugian
    • Jadual kadar pembelajaran
    • Saiz batch
  3. Siapa yang menyesuaikan fungsi pengaruh kepada pembelajaran mendalam moden dalam kertas 2017 yang terkenal?
    • Goodfellow dan Bengio
    • Vaswani et al.
    • Koh dan Liang
    • Hinton dan LeCun
  4. Under Koh and Liang’s standard I_up,loss convention, what does a negative value indicate?
    • The point was not in the training data
    • Upweighting the point is estimated to increase test loss
    • The point has no relationship to the test example
    • Upweighting the point is estimated to lower test loss, so it is helpful
  5. Anggaran manakah yang Anthropic gunakan untuk menskalakan mempengaruhi fungsi kepada model bahasa yang besar?
    • EK-FAC (kelengkungan berfaktor Kronecker)
    • Keciciran
    • Carian rasuk
    • Campuran
  6. Apakah yang didapati oleh kajian berskala Anthropic tentang contoh yang berpengaruh?
    • Mereka sentiasa salinan tepat keluaran
    • Mereka sering berkongsi corak abstrak dan bukannya perkataan yang sama
    • Mereka diedarkan secara rawak
    • Hanya contoh latihan pertama yang penting
  7. In the influence-function approximation, what connects a training-example gradient to the effect on a test loss?
    • The test set’s token count
    • A random forest over training labels
    • The inverse Hessian of the training loss
    • The model’s output vocabulary size
  8. If removing one training example is estimated to increase a test point’s loss, what does that suggest about the example?
    • It was guaranteed to be a duplicate
    • It had no relationship to the model
    • It necessarily caused the model to overfit
    • It had a helpful influence on that test point under the approximation