Kvíz spojený s průvodcem · Těžko úroveň
Kvíz mechanické interpretace
Prozkoumejte, jak výzkumníci zkoumají vnitřnosti neuronové sítě s obvody, funkcemi a zásahy, přičemž mají na zřeteli aktuální limity.
Otázka 1 z 8
Co je hlavním cílem mechanistické interpretovatelnosti?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co je hlavním cílem mechanistické interpretovatelnosti?
- Zpětné inženýrství interních výpočtů sítě do lidsky srozumitelných algoritmů
- Aby modelky trénovaly rychleji
- Ke kompresi modelů pro mobilní zařízení
- Chcete-li seřadit vstupní funkce pouze podle důležitosti
- Co znamená „superpozice“ v neuronové síti?
- Skládání mnoha modelů dohromady
- Reprezentující více prvků, než je rozměrů, pomocí překrývajících se směrů
- Spuštění modelu na více GPU
- Zprůměrování předpovědí z různých běhů
- Řídké autokodéry se používají v mechanické interpretaci především k...
- Generovat tréninková data
- Urychlete vyvozování
- Rozložte polysémantické aktivace na čistší a lépe interpretovatelné funkce
- Šifrovat váhy modelů
- Co jsou to „indukční hlavy“?
- Hardwarové akcelerátory pro transformátory
- Výstupní vrstvy, které generují text
- Typ ztrátové funkce
- Pozornost, která kopíruje a pokračuje v opakujících se vzorcích tokenů a podporuje učení v kontextu
- Jak výzkumníci potvrdí, že objevený obvod skutečně provádí předpokládaný výpočet?
- Prostřednictvím kauzálních intervencí, jako je ablace nebo záplatování specifických aktivací
- Kontrolou přesnosti tréninku modelu
- Počítáním počtu parametrů
- Měřením inferenční latence
- What is a cautious safety-related reason to study mechanistic interpretability?
- It proves every hidden behavior can already be found
- It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
- It guarantees a model will follow any requested correction
- It replaces evaluations of model behavior in deployment
- If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
- The entire model’s computation is now explained
- The feature is guaranteed to be a single neuron
- A candidate feature correlates with those examples and needs further testing to establish its role
- The feature causes every bridge-related output
- Why test a candidate feature across varied prompts and examples?
- Proof that the model has no other relevant circuits
- A guarantee that the explanation generalizes to every prompt
- A replacement for inspecting model behavior
- To check whether the observed activation pattern generalizes beyond selected examples