Gids-gekoppelde quiz · Moeilijk Niveau
Functievectoren en taakrepresentaties Quiz
Bestudeer hoe functievectoren uit aandachtshoofden worden gehaald, in verborgen toestanden worden geïnjecteerd en in taakcontexten worden getest.
Vraag 1 van 8
What does a function vector represent in the studied language models?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- What does a function vector represent in the studied language models?
- A compact activation-space representation associated with a demonstrated task
- The model’s full weight matrix
- A single token embedding in every setting
- The optimizer’s learning rate
- Hoe wordt een functievector doorgaans opgebouwd?
- Door alle woordinsluitingen in de woordenschat op te tellen
- Door het middelen van de resultaten van specifieke taakgerichte aandachtspunten over voorbeeldprompts
- Door het model te verfijnen op één voorbeeld
- Door de uiteindelijke softmax-kansen te lezen
- What did the function-vector paper observe after injecting a vector into a zero-shot prompt?
- The model always crashed
- It guaranteed correct answers on any task
- It could trigger the associated task in the tested settings
- It permanently changed the model weights
- Welke analysetechniek ligt ten grondslag aan het vinden van de hoofden die een functievector dragen?
- Gradiëntdaling op het verlies
- Straal zoeken
- Regularisatie van uitval
- Causale bemiddelingsanalyse
- What do function-vector experiments provide evidence for?
- Some models form reusable internal representations associated with tasks
- All language models only memorize text
- Every model has one universal task vector
- Tokenization alone determines every behavior
- Why are function vectors interesting to steering research?
- They guarantee safe or correct behavior
- They provide an activation-level intervention that can influence task behavior in tested settings
- They eliminate prompts for every application
- They make all model decisions fully transparent
- At what part of the transformer did the paper report strong function-vector effects?
- Only the input embedding table
- Only the final output logits
- Middle layers in the tested models
- De tokenizer-vocabulaire
- What happened when researchers summed some function vectors?
- The vectors always canceled to zero
- The model’s weights were permanently updated
- Every possible task was composed perfectly
- Some combinations triggered new complex tasks in the tested experiments