Kvíz spojený s průvodcem · Těžko úroveň

Kvíz mechanické interpretace

Prozkoumejte, jak výzkumníci zkoumají vnitřnosti neuronové sítě s obvody, funkcemi a zásahy, přičemž mají na zřeteli aktuální limity.

Související vodicí cestyMechanická interpretovatelnost
Otázka 1 z 8

Co je hlavním cílem mechanistické interpretovatelnosti?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Co je hlavním cílem mechanistické interpretovatelnosti?
    • Zpětné inženýrství interních výpočtů sítě do lidsky srozumitelných algoritmů
    • Aby modelky trénovaly rychleji
    • Ke kompresi modelů pro mobilní zařízení
    • Chcete-li seřadit vstupní funkce pouze podle důležitosti
  2. Co znamená „superpozice“ v neuronové síti?
    • Skládání mnoha modelů dohromady
    • Reprezentující více prvků, než je rozměrů, pomocí překrývajících se směrů
    • Spuštění modelu na více GPU
    • Zprůměrování předpovědí z různých běhů
  3. Řídké autokodéry se používají v mechanické interpretaci především k...
    • Generovat tréninková data
    • Urychlete vyvozování
    • Rozložte polysémantické aktivace na čistší a lépe interpretovatelné funkce
    • Šifrovat váhy modelů
  4. Co jsou to „indukční hlavy“?
    • Hardwarové akcelerátory pro transformátory
    • Výstupní vrstvy, které generují text
    • Typ ztrátové funkce
    • Pozornost, která kopíruje a pokračuje v opakujících se vzorcích tokenů a podporuje učení v kontextu
  5. Jak výzkumníci potvrdí, že objevený obvod skutečně provádí předpokládaný výpočet?
    • Prostřednictvím kauzálních intervencí, jako je ablace nebo záplatování specifických aktivací
    • Kontrolou přesnosti tréninku modelu
    • Počítáním počtu parametrů
    • Měřením inferenční latence
  6. What is a cautious safety-related reason to study mechanistic interpretability?
    • It proves every hidden behavior can already be found
    • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
    • It guarantees a model will follow any requested correction
    • It replaces evaluations of model behavior in deployment
  7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
    • The entire model’s computation is now explained
    • The feature is guaranteed to be a single neuron
    • A candidate feature correlates with those examples and needs further testing to establish its role
    • The feature causes every bridge-related output
  8. Why test a candidate feature across varied prompts and examples?
    • Proof that the model has no other relevant circuits
    • A guarantee that the explanation generalizes to every prompt
    • A replacement for inspecting model behavior
    • To check whether the observed activation pattern generalizes beyond selected examples