Mekanistik Yorumlanabilirlik Sınavı

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Mekanik yorumlanabilirliğin temel amacı nedir?
   • Bir ağın dahili hesaplamalarını insanların anlayabileceği algoritmalara dönüştürmek için tersine mühendislik yapmak
   • Modellerin daha hızlı eğitilmesini sağlamak için
   • Mobil cihazlara yönelik modelleri sıkıştırmak için
   • Giriş özelliklerini yalnızca önem derecesine göre sıralamak için
2. Bir sinir ağında 'süperpozisyon' neyi ifade eder?
   • Birçok modeli bir arada istifleme
   • Çakışan yönleri kullanarak boyutlardan daha fazla özelliği temsil etme
   • Bir modeli birden fazla GPU'da çalıştırma
   • Farklı çalıştırmalardan tahminlerin ortalamasını alma
3. Seyrek otomatik kodlayıcılar, mekanik yorumlanabilirlikte öncelikle ...
   • Eğitim verileri oluşturun
   • Çıkarımı hızlandırın
   • Çok anlamlı aktivasyonları daha temiz, daha yorumlanabilir özelliklere ayırın
   • Model ağırlıklarını şifrele
4. 'İndüksiyon kafaları' nedir?
   • Transformatörler için donanım hızlandırıcıları
   • Metin üreten çıktı katmanları
   • Bir tür kayıp fonksiyonu
   • Bağlam içi öğrenmeyi destekleyen, tekrarlanan simge kalıplarını kopyalayıp devam ettiren dikkat kafaları
5. Araştırmacılar, keşfedilen bir devrenin gerçekten varsayılan bir hesaplamayı gerçekleştirdiğini nasıl doğrular?
   • Belirli aktivasyonların ortadan kaldırılması veya yamalanması gibi nedensel müdahaleler yoluyla
   • Modelin eğitim doğruluğunu kontrol ederek
   • Parametre sayısını sayarak
   • Çıkarım gecikmesini ölçerek
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples