Kuis Interpretabilitas Mekanistik

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Apa tujuan utama dari interpretasi mekanistik?
   • Untuk merekayasa balik komputasi internal jaringan menjadi algoritma yang dapat dipahami manusia
   • Untuk membuat model berlatih lebih cepat
   • Untuk mengompresi model untuk perangkat seluler
   • Untuk memberi peringkat fitur masukan berdasarkan kepentingannya saja
2. Apa yang dimaksud dengan 'superposisi' dalam jaringan saraf?
   • Menumpuk banyak model menjadi satu
   • Mewakili lebih banyak fitur daripada dimensi dengan menggunakan arah yang tumpang tindih
   • Menjalankan model pada beberapa GPU
   • Rata-rata prediksi dari proses yang berbeda
3. Autoencoder renggang digunakan dalam interpretasi mekanistik terutama untuk...
   • Hasilkan data pelatihan
   • Mempercepat inferensi
   • Pisahkan aktivasi polisemantik menjadi fitur yang lebih bersih dan dapat diinterpretasikan
   • Enkripsi bobot model
4. Apa itu 'kepala induksi'?
   • Akselerator perangkat keras untuk transformator
   • Lapisan keluaran yang menghasilkan teks
   • Suatu jenis fungsi kerugian
   • Kepala perhatian yang menyalin dan melanjutkan pola token yang berulang, mendukung pembelajaran dalam konteks
5. Bagaimana peneliti memastikan bahwa sirkuit yang ditemukan benar-benar melakukan perhitungan yang dihipotesiskan?
   • Melalui intervensi kausal seperti menghilangkan atau menambal aktivasi tertentu
   • Dengan memeriksa akurasi pelatihan model
   • Dengan menghitung jumlah parameter
   • Dengan mengukur latensi inferensi
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples