Test de interpretabilitate mecanică

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

1. Care este scopul central al interpretabilității mecaniciste?
   • Pentru a face inginerie inversă a calculelor interne ale unei rețele în algoritmi înțeleși de om
   • Pentru a face modelele să se antreneze mai repede
   • Pentru a comprima modele pentru dispozitive mobile
   • Pentru a clasifica funcțiile de intrare numai după importanță
2. La ce se referă „superpunerea” într-o rețea neuronală?
   • Stivuirea mai multor modele împreună
   • Reprezentând mai multe caracteristici decât există dimensiuni prin utilizarea direcțiilor care se suprapun
   • Rularea unui model pe mai multe GPU-uri
   • Media previziunilor din diferite curse
3. Autoencoderele rare sunt utilizate în interpretabilitatea mecanică în primul rând pentru...
   • Generați date de antrenament
   • Accelerează inferența
   • Dezlegați activările polisemantice în caracteristici mai curate, mai interpretabile
   • Criptați greutățile modelului
4. Ce sunt „capetele de inducție”?
   • Acceleratoare hardware pentru transformatoare
   • Straturi de ieșire care generează text
   • Un tip de funcție de pierdere
   • Capete de atenție care copiază și continuă modelele de simboluri repetate, susținând învățarea în context
5. Cum confirmă cercetătorii că un circuit descoperit realizează cu adevărat un calcul ipotetic?
   • Prin intervenții cauzale, cum ar fi ablația sau plastarea activărilor specifice
   • Prin verificarea preciziei de antrenament a modelului
   • Prin numărarea numărului de parametri
   • Prin măsurarea latenței de inferență
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples