Kvíz spojený s průvodcem · Těžko úroveň

Řídké autoenkodéry pro kvíz interpretability

Kontroluje řídkou rekonstrukci a řídkost autoenkodéru, aktivační funkce, rozšiřování šířky, rozdělování funkcí a experimenty s kauzálním řízením.

Otázka 1 z 8

Jaký je hlavní účel trénování řídkého autokodéru na aktivacích modelu?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Jaký je hlavní účel trénování řídkého autokodéru na aktivacích modelu?
    • Rozložit zamotané aktivace na interpretovatelné, většinou izolované prvky
    • Chcete-li komprimovat model, aby běžel rychleji
    • K překladu textu mezi jazyky
    • Pro zvýšení přesnosti modelu na benchmarkech
  2. Jak postih SAE za řídkost ovlivní aktivace skrytých jednotek?
    • It guarantees each unit represents exactly one concept
    • It encourages only a small subset of the wider hidden layer to activate for an input
    • It makes every hidden unit activate equally
    • It removes the reconstruction objective
  3. Kolik funkcí zhruba Anthropic extrahovalo při škálování SAE na Claude 3 Sonnet v roce 2024?
    • Asi 500
    • Asi 2000
    • Asi 34 milionů
    • Asi 100 miliard
  4. Co ukázala demonstrace 'Golden Gate Claude'?
    • Že SAE lze trénovat pouze na obrázcích
    • Že model už nemohl produkovat text
    • Tyto vlastnosti nemají žádný vliv na výstupy
    • Toto upnutí jednoho prvku vysoko kauzálně řídí chování modelu
  5. Proč je skrytá vrstva v SAE obvykle mnohem ŠIRŠÍ než aktivace, kterou rekonstruuje?
    • Protože koncepty jsou superponovány v menším počtu dimenzí, než skutečně potřebují, více jednotek je pomáhá rozdělit
    • Aby byl trénink levnější
    • Protože širší vrstvy jsou vždy přesnější
    • Chcete-li snížit počet parametrů
  6. Jaké je známé omezení současných řídkých autoenkodérů?
    • Nemohou být trénovány s gradientním klesáním
    • Rozdělení prvků, kdy se jeden koncept rozpadá na mnoho samostatných prvků
    • Fungují pouze na konvolučních sítích
    • Eliminují potřebu jakéhokoli lidského označování
  7. Which two objectives are commonly combined when training a sparse autoencoder?
    • A policy gradient and value loss
    • A next-token loss and a contrastive loss
    • Reconstruction error and a penalty on hidden activations
    • A calibration error and classification accuracy
  8. What does a TopK sparse autoencoder do to encourage sparsity?
    • Keeps the K largest input pixels and discards the decoder
    • Sets all encoder weights to zero
    • Trains K different tokenizers
    • Keeps only the K largest hidden activations for an input