Kvíz spojený s průvodcem · Těžko úroveň
Řídké autoenkodéry pro kvíz interpretability
Kontroluje řídkou rekonstrukci a řídkost autoenkodéru, aktivační funkce, rozšiřování šířky, rozdělování funkcí a experimenty s kauzálním řízením.
Otázka 1 z 8
Jaký je hlavní účel trénování řídkého autokodéru na aktivacích modelu?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Jaký je hlavní účel trénování řídkého autokodéru na aktivacích modelu?
- Rozložit zamotané aktivace na interpretovatelné, většinou izolované prvky
- Chcete-li komprimovat model, aby běžel rychleji
- K překladu textu mezi jazyky
- Pro zvýšení přesnosti modelu na benchmarkech
- Jak postih SAE za řídkost ovlivní aktivace skrytých jednotek?
- It guarantees each unit represents exactly one concept
- It encourages only a small subset of the wider hidden layer to activate for an input
- It makes every hidden unit activate equally
- It removes the reconstruction objective
- Kolik funkcí zhruba Anthropic extrahovalo při škálování SAE na Claude 3 Sonnet v roce 2024?
- Asi 500
- Asi 2000
- Asi 34 milionů
- Asi 100 miliard
- Co ukázala demonstrace 'Golden Gate Claude'?
- Že SAE lze trénovat pouze na obrázcích
- Že model už nemohl produkovat text
- Tyto vlastnosti nemají žádný vliv na výstupy
- Toto upnutí jednoho prvku vysoko kauzálně řídí chování modelu
- Proč je skrytá vrstva v SAE obvykle mnohem ŠIRŠÍ než aktivace, kterou rekonstruuje?
- Protože koncepty jsou superponovány v menším počtu dimenzí, než skutečně potřebují, více jednotek je pomáhá rozdělit
- Aby byl trénink levnější
- Protože širší vrstvy jsou vždy přesnější
- Chcete-li snížit počet parametrů
- Jaké je známé omezení současných řídkých autoenkodérů?
- Nemohou být trénovány s gradientním klesáním
- Rozdělení prvků, kdy se jeden koncept rozpadá na mnoho samostatných prvků
- Fungují pouze na konvolučních sítích
- Eliminují potřebu jakéhokoli lidského označování
- Which two objectives are commonly combined when training a sparse autoencoder?
- A policy gradient and value loss
- A next-token loss and a contrastive loss
- Reconstruction error and a penalty on hidden activations
- A calibration error and classification accuracy
- What does a TopK sparse autoencoder do to encourage sparsity?
- Keeps the K largest input pixels and discards the decoder
- Sets all encoder weights to zero
- Trains K different tokenizers
- Keeps only the K largest hidden activations for an input