Kuiz Kebolehtafsiran Mekanistik

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. Apakah matlamat utama kebolehtafsiran mekanistik?
   • Untuk merekayasa balik pengiraan dalaman rangkaian menjadi algoritma yang boleh difahami manusia
   • Untuk membuat model berlatih lebih cepat
   • Untuk memampatkan model untuk peranti mudah alih
   • Untuk menilai ciri input mengikut kepentingan sahaja
2. Apakah yang dimaksudkan dengan 'superposisi' dalam rangkaian saraf?
   • Menyusun banyak model bersama-sama
   • Mewakili lebih banyak ciri daripada dimensi dengan menggunakan arah bertindih
   • Menjalankan model pada berbilang GPU
   • Purata ramalan daripada larian yang berbeza
3. Pengekod auto jarang digunakan dalam kebolehtafsiran mekanistik terutamanya untuk...
   • Hasilkan data latihan
   • Mempercepatkan inferens
   • Leraikan pengaktifan polisemantik kepada ciri yang lebih bersih dan boleh ditafsir
   • Sulitkan berat model
4. Apakah 'kepala induksi'?
   • Pemecut perkakasan untuk transformer
   • Lapisan output yang menjana teks
   • Sejenis fungsi kehilangan
   • Ketua perhatian yang menyalin dan meneruskan corak token berulang, menyokong pembelajaran dalam konteks
5. Bagaimanakah penyelidik mengesahkan bahawa litar yang ditemui benar-benar melakukan pengiraan hipotesis?
   • Melalui campur tangan kausal seperti ablating atau menampal pengaktifan khusus
   • Dengan menyemak ketepatan latihan model
   • Dengan mengira bilangan parameter
   • Dengan mengukur kependaman inferens
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples