Quiz collegato alla guida · Difficile Livello
Quiz sull'interpretabilità meccanicistica
Esplora il modo in cui i ricercatori indagano sul funzionamento interno delle reti neurali tramite circuiti, caratteristiche e interventi, tenendo presenti i limiti attuali.
Domanda 1 di 8
Qual è l’obiettivo centrale dell’interpretabilità meccanicistica?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Qual è l’obiettivo centrale dell’interpretabilità meccanicistica?
- Per decodificare i calcoli interni di una rete in algoritmi comprensibili dall'uomo
- Per far sì che i modelli si allenino più velocemente
- Per comprimere modelli per dispositivi mobili
- Per classificare le funzionalità di input solo in base all'importanza
- A cosa si riferisce la "sovrapposizione" in una rete neurale?
- Impilare molti modelli insieme
- Rappresentare più funzioni rispetto alle dimensioni utilizzando direzioni sovrapposte
- Esecuzione di un modello su più GPU
- Media delle previsioni di diverse esecuzioni
- Gli autocodificatori sparsi sono utilizzati nell'interpretabilità meccanicistica principalmente per...
- Genera dati di allenamento
- Accelera l'inferenza
- Districare le attivazioni polisemantiche in caratteristiche più pulite e interpretabili
- Crittografare i pesi del modello
- Cosa sono le "teste a induzione"?
- Acceleratori hardware per trasformatori
- Livelli di output che generano testo
- Un tipo di funzione di perdita
- Teste di attenzione che copiano e continuano schemi ripetuti di token, supportando l'apprendimento nel contesto
- Come fanno i ricercatori a confermare che un circuito scoperto esegue veramente un calcolo ipotizzato?
- Attraverso interventi causali come l'ablazione o il patching di attivazioni specifiche
- Controllando l'accuratezza dell'addestramento del modello
- Contando il numero di parametri
- Misurando la latenza dell'inferenza
- What is a cautious safety-related reason to study mechanistic interpretability?
- It proves every hidden behavior can already be found
- It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
- It guarantees a model will follow any requested correction
- It replaces evaluations of model behavior in deployment
- If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
- The entire model’s computation is now explained
- The feature is guaranteed to be a single neuron
- A candidate feature correlates with those examples and needs further testing to establish its role
- The feature causes every bridge-related output
- Why test a candidate feature across varied prompts and examples?
- Proof that the model has no other relevant circuits
- A guarantee that the explanation generalizes to every prompt
- A replacement for inspecting model behavior
- To check whether the observed activation pattern generalizes beyond selected examples