Kuis Evaluasi Fitur Penyelidik Linier dan Beku

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Dalam probe linier standar, parameter manakah yang diperbarui selama pelatihan?
   • Hanya pengklasifikasi linier yang baru ditambahkan di atas
   • Seluruh tulang punggung ditambah lapisan linier
   • Hanya tulang punggung, membiarkan pengklasifikasi tetap
   • Lapisan penyematan dan blok perhatian terakhir
2. What does high linear-probe accuracy most directly show?
   • The backbone causally uses the feature for every prediction
   • The labels are decodable by a linear classifier from the frozen features under that dataset and protocol
   • The representation is robust to every distribution shift
   • The probe has identified a human-interpretable mechanism
3. Dibandingkan dengan full fine-tuning, linear probing lebih menarik karena:
   • Lebih akurat dalam setiap tugas
   • Dijamin dapat menggeneralisasi distribusi dengan lebih baik
   • Lebih murah dalam komputasi dan memori serta memberikan kualitas fitur yang lebih jelas
   • Satu-satunya cara untuk menggunakan model yang telah dilatih sebelumnya
4. Temuan empiris yang umum ketika menyelidiki transformator adalah:
   • Lapisan terakhir selalu memberikan akurasi probe terbaik
   • Probing hanya berfungsi pada jaringan konvolusional
   • Pilihan lapisan tidak pernah mempengaruhi hasil pemeriksaan
   • Lapisan perantara sering kali mengungguli lapisan terakhir dalam hal transfer
5. Selain benchmarking, probe linier semakin banyak digunakan dalam kemampuan interpretasi untuk:
   • Deteksi apakah konsep seperti kebenaran dikodekan dalam keadaan tersembunyi
   • Model kompres untuk penerapan seluler
   • Ganti pengoptimal selama prapelatihan
   • Hasilkan data pelatihan baru secara otomatis
6. Risiko metodologis utama ketika menafsirkan akurasi penyelidikan yang tinggi adalah:
   • Tulang punggung diam-diam terus berlatih
   • Penyelidikan ini mungkin mengeksploitasi korelasi palsu dan bukan konsep sebenarnya
   • Probe linier tidak boleh overfit
   • Kerugian lintas entropi tidak dapat digunakan
7. To compare two backbone layers with linear probes, what should remain consistent?
   • The feature vectors from each layer
   • The layer being evaluated
   • The task labels, data split and probe-training protocol
   • The activation values themselves
8. Why might feature normalization and learning-rate sweeps be used in a probe evaluation?
   • To update the frozen backbone
   • To add hidden nonlinear layers to the probe
   • To guarantee the concept is causally used
   • To reduce optimization and scale effects that could distort the representation comparison