Kuis Teknik Kemudi dan Representasi Aktivasi

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Pada titik manakah dalam pengoperasian model aktivasi kemudi melakukan intervensi?
   • Pada waktu inferensi, dengan memodifikasi aktivasi tersembunyi
   • Hanya selama pra-pelatihan
   • Selama pengumpulan data
   • Hanya setelah teks keluaran dicetak
2. Bagaimana cara menghitung vektor kemudi secara umum?
   • Dengan menginisialisasi matriks secara acak
   • Sebagai perbedaan rata-rata antara aktivasi pada perintah positif dan negatif yang kontras
   • Dengan menghapus lapisan dari model
   • Dengan menghitung token di prompt
3. Hipotesis manakah yang mendasari mengapa kemudi aktivasi berhasil?
   • Gagasan bahwa model menyimpan data sebagai teks biasa
   • Keyakinan bahwa semua neuron adalah identik
   • Hipotesis representasi linier, bahwa banyak fitur mempunyai arah yang kira-kira linier
   • Klaim bahwa model tidak dapat mewakili konsep
4. Berapakah koefisien skala pada pengendalian vektor kemudi?
   • Ukuran kosakata model
   • Jumlah lapisan dalam model
   • Kecepatan pembelajaran pelatihan
   • Seberapa kuat perilaku tersebut didorong ke arah yang dipilih
5. Apa risiko yang diketahui jika mengarahkan model terlalu agresif?
   • Koherensi dan kemampuan keluaran dapat menurun
   • Model melatih dirinya sendiri secara otomatis
   • Ukuran file bertambah tak terkendali
   • Ini menulis ulang bobot secara permanen
6. Teknik mana yang sering dipasangkan dengan kemudi untuk menemukan fitur yang dapat diinterpretasikan untuk dijepit?
   • Kompresi JPEG
   • Autoencoder jarang yang menguraikan aktivasi menjadi fitur
   • Pendaftaran nama domain
   • Defragmentasi disk
7. How does activation steering differ from fine-tuning the model weights?
   • It retrains the model on a new labeled dataset
   • It changes the tokenizer vocabulary
   • It adds a vector to hidden activations during inference without updating the base weights
   • It replaces the attention layers with a classifier
8. A steering vector works on the prompts used to compute it but not on a different topic. Which limitation does this illustrate?
   • The vector must be an optimizer state
   • Steering always requires fine-tuning
   • A residual stream contains no features
   • The direction found from one prompt set may not generalize to other contexts