Quiz collegato alla guida · Difficile Livello

Quiz sull'interpretabilità meccanicistica

Esplora il modo in cui i ricercatori indagano sul funzionamento interno delle reti neurali tramite circuiti, caratteristiche e interventi, tenendo presenti i limiti attuali.

Percorsi guida correlatiInterpretabilità meccanicistica
Domanda 1 di 8

Qual è l’obiettivo centrale dell’interpretabilità meccanicistica?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Qual è l’obiettivo centrale dell’interpretabilità meccanicistica?
    • Per decodificare i calcoli interni di una rete in algoritmi comprensibili dall'uomo
    • Per far sì che i modelli si allenino più velocemente
    • Per comprimere modelli per dispositivi mobili
    • Per classificare le funzionalità di input solo in base all'importanza
  2. A cosa si riferisce la "sovrapposizione" in una rete neurale?
    • Impilare molti modelli insieme
    • Rappresentare più funzioni rispetto alle dimensioni utilizzando direzioni sovrapposte
    • Esecuzione di un modello su più GPU
    • Media delle previsioni di diverse esecuzioni
  3. Gli autocodificatori sparsi sono utilizzati nell'interpretabilità meccanicistica principalmente per...
    • Genera dati di allenamento
    • Accelera l'inferenza
    • Districare le attivazioni polisemantiche in caratteristiche più pulite e interpretabili
    • Crittografare i pesi del modello
  4. Cosa sono le "teste a induzione"?
    • Acceleratori hardware per trasformatori
    • Livelli di output che generano testo
    • Un tipo di funzione di perdita
    • Teste di attenzione che copiano e continuano schemi ripetuti di token, supportando l'apprendimento nel contesto
  5. Come fanno i ricercatori a confermare che un circuito scoperto esegue veramente un calcolo ipotizzato?
    • Attraverso interventi causali come l'ablazione o il patching di attivazioni specifiche
    • Controllando l'accuratezza dell'addestramento del modello
    • Contando il numero di parametri
    • Misurando la latenza dell'inferenza
  6. What is a cautious safety-related reason to study mechanistic interpretability?
    • It proves every hidden behavior can already be found
    • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
    • It guarantees a model will follow any requested correction
    • It replaces evaluations of model behavior in deployment
  7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
    • The entire model’s computation is now explained
    • The feature is guaranteed to be a single neuron
    • A candidate feature correlates with those examples and needs further testing to establish its role
    • The feature causes every bridge-related output
  8. Why test a candidate feature across varied prompts and examples?
    • Proof that the model has no other relevant circuits
    • A guarantee that the explanation generalizes to every prompt
    • A replacement for inspecting model behavior
    • To check whether the observed activation pattern generalizes beyond selected examples