Gids-gekoppelde quiz · Moeilijk Niveau
Schaarse auto-encoders voor de interpretatiequiz
Controleert de reconstructie en sparsity van de schaarse auto-encoder, activeringsfuncties, breedte-uitbreiding, functiesplitsing en causale stuurexperimenten.
Vraag 1 van 8
Wat is het belangrijkste doel van het trainen van een schaarse autoencoder op de activeringen van een model?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat is het belangrijkste doel van het trainen van een schaarse autoencoder op de activeringen van een model?
- Om verwarde activaties te ontleden in interpreteerbare, grotendeels geïsoleerde kenmerken
- Om het model te comprimeren zodat het sneller werkt
- Om tekst tussen talen te vertalen
- Om de nauwkeurigheid van het model op benchmarks te vergroten
- How does an SAE’s sparsity penalty affect hidden-unit activations?
- It guarantees each unit represents exactly one concept
- It encourages only a small subset of the wider hidden layer to activate for an input
- It makes every hidden unit activate equally
- It removes the reconstruction objective
- Hoeveel functies heeft Anthropic grofweg geëxtraheerd bij het schalen van SAE's naar Claude 3 Sonnet in 2024?
- Ongeveer 500
- Ongeveer 2.000
- Ongeveer 34 miljoen
- Ongeveer 100 miljard
- Wat liet de demonstratie 'Golden Gate Claude' zien?
- Dat SAE’s alleen op beelden kunnen worden getraind
- Dat het model geen tekst meer kon produceren
- Deze functies hebben geen effect op de output
- Dat het hoog vastzetten van een enkel kenmerk het gedrag van het model causaal stuurt
- Waarom is een verborgen laag in een SAE doorgaans veel BREDER dan de activering die deze reconstrueert?
- Omdat concepten in minder dimensies over elkaar heen worden geplaatst dan ze werkelijk nodig hebben, helpen meer eenheden ze te ontwarren
- Om de opleiding goedkoper te maken
- Omdat bredere lagen altijd nauwkeuriger zijn
- Om het aantal parameters te verminderen
- Wat is een bekende beperking van de huidige schaarse autoencoders?
- Ze kunnen niet worden getraind met gradiëntafdaling
- Functiesplitsing, waarbij één concept in veel afzonderlijke kenmerken wordt opgesplitst
- Ze werken alleen op convolutionele netwerken
- Ze elimineren de noodzaak van menselijke etikettering
- Which two objectives are commonly combined when training a sparse autoencoder?
- A policy gradient and value loss
- A next-token loss and a contrastive loss
- Reconstruction error and a penalty on hidden activations
- A calibration error and classification accuracy
- What does a TopK sparse autoencoder do to encourage sparsity?
- Keeps the K largest input pixels and discards the decoder
- Sets all encoder weights to zero
- Trains K different tokenizers
- Keeps only the K largest hidden activations for an input