Kuiz Kejuruteraan Pemandu Pengaktifan dan Perwakilan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. Pada titik manakah dalam operasi model, stereng pengaktifan campur tangan?
   • Pada masa inferens, dengan mengubah suai pengaktifan tersembunyi
   • Semasa pralatihan sahaja
   • Semasa pengumpulan data
   • Hanya selepas teks output dicetak
2. Bagaimanakah vektor stereng biasanya dikira?
   • Dengan memulakan matriks secara rawak
   • Sebagai perbezaan min antara pengaktifan pada gesaan positif dan negatif yang berbeza
   • Dengan memadamkan lapisan daripada model
   • Dengan mengira token dalam gesaan
3. Hipotesis yang manakah mendasari mengapa stereng pengaktifan berfungsi?
   • Idea bahawa model menyimpan data sebagai teks biasa
   • Kepercayaan bahawa semua neuron adalah sama
   • Hipotesis perwakilan linear, bahawa banyak ciri adalah arah secara kasar linear
   • Dakwaan bahawa model tidak boleh mewakili konsep
4. Apakah pekali penskalaan pada vektor stereng mengawal?
   • Saiz perbendaharaan kata model
   • Bilangan lapisan dalam model
   • Kadar pembelajaran latihan
   • Seberapa kuat tingkah laku itu ditolak ke arah yang dipilih
5. Apakah risiko yang diketahui mengemudi model terlalu agresif?
   • Keselarasan dan keupayaan output boleh merosot
   • Model melatih dirinya secara automatik
   • Saiz fail membesar tanpa terkawal
   • Ia menulis semula pemberat secara kekal
6. Teknik manakah yang sering dipasangkan dengan stereng untuk mencari ciri yang boleh ditafsir untuk diapit?
   • Pemampatan JPEG
   • Pengekod auto jarang yang menguraikan pengaktifan kepada ciri
   • Pendaftaran nama domain
   • Defragmentasi cakera
7. How does activation steering differ from fine-tuning the model weights?
   • It retrains the model on a new labeled dataset
   • It changes the tokenizer vocabulary
   • It adds a vector to hidden activations during inference without updating the base weights
   • It replaces the attention layers with a classifier
8. A steering vector works on the prompts used to compute it but not on a different topic. Which limitation does this illustrate?
   • The vector must be an optimizer state
   • Steering always requires fine-tuning
   • A residual stream contains no features
   • The direction found from one prompt set may not generalize to other contexts