Quiz d'interprétabilité mécanistique

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

1. Quel est l’objectif central de l’interprétabilité mécaniste ?
   • Rétro-ingénierie des calculs internes d'un réseau en algorithmes compréhensibles par l'homme
   • Pour que les modèles s'entraînent plus rapidement
   • Pour compresser des modèles pour appareils mobiles
   • Pour classer les entités en entrée par importance uniquement
2. À quoi fait référence la « superposition » dans un réseau neuronal ?
   • Empiler plusieurs modèles ensemble
   • Représenter plus d'entités qu'il n'y a de dimensions en utilisant des directions qui se chevauchent
   • Exécuter un modèle sur plusieurs GPU
   • Faire la moyenne des prédictions de différentes exécutions
3. Les auto-encodeurs clairsemés sont utilisés dans l'interprétabilité mécaniste principalement pour...
   • Générer des données d'entraînement
   • Accélérer l'inférence
   • Démêler les activations polysémantiques en fonctionnalités plus claires et plus interprétables
   • Chiffrer les poids du modèle
4. Que sont les « têtes à induction » ?
   • Accélérateurs matériels pour transformateurs
   • Couches de sortie qui génèrent du texte
   • Un type de fonction de perte
   • Têtes d'attention qui copient et continuent les modèles de jetons répétés, prenant en charge l'apprentissage en contexte
5. Comment les chercheurs confirment-ils qu’un circuit découvert effectue réellement un calcul hypothétique ?
   • Grâce à des interventions causales telles que l'ablation ou la correction d'activations spécifiques
   • En vérifiant la précision de l'entraînement du modèle
   • En comptant le nombre de paramètres
   • En mesurant la latence d'inférence
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples