Útmutatóhoz kapcsolódó kvíz · Kemény Szint
Funkcióvektorok és feladatábrázolások kvíz
Study how function vectors are extracted from attention heads, injected into hidden states, and tested across task contexts.
kérdés 1 -ból 8
What does a function vector represent in the studied language models?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- What does a function vector represent in the studied language models?
- A compact activation-space representation associated with a demonstrated task
- The model’s full weight matrix
- A single token embedding in every setting
- The optimizer’s learning rate
- Hogyan épül fel általában a függvényvektor?
- Az összes szóbeágyazás összegzésével a szókincsben
- Azáltal, hogy a konkrét feladatot hordozó figyelem kimeneteit átlagoljuk a példafelhívásokhoz képest
- A modell finomhangolásával egy példán
- A végső softmax valószínűségek beolvasásával
- What did the function-vector paper observe after injecting a vector into a zero-shot prompt?
- The model always crashed
- It guaranteed correct answers on any task
- It could trigger the associated task in the tested settings
- It permanently changed the model weights
- Melyik elemzési technika támasztja alá a függvényvektort hordozó fejek megtalálását?
- Gradiens süllyedés a veszteségen
- Sugárkeresés
- Lemorzsolódás szabályozása
- Ok-okozati mediáció elemzése
- What do function-vector experiments provide evidence for?
- Some models form reusable internal representations associated with tasks
- All language models only memorize text
- Every model has one universal task vector
- Tokenization alone determines every behavior
- Why are function vectors interesting to steering research?
- They guarantee safe or correct behavior
- They provide an activation-level intervention that can influence task behavior in tested settings
- They eliminate prompts for every application
- They make all model decisions fully transparent
- At what part of the transformer did the paper report strong function-vector effects?
- Only the input embedding table
- Only the final output logits
- Middle layers in the tested models
- A tokenizáló szókincs
- What happened when researchers summed some function vectors?
- The vectors always canceled to zero
- The model’s weights were permanently updated
- Every possible task was composed perfectly
- Some combinations triggered new complex tasks in the tested experiments