Test legat de ghid · Greu Nivel

Vectori de funcție și chestionar pentru reprezentări de sarcini

Studiați modul în care vectorii de funcție sunt extrași din capetele de atenție, injectați în stări ascunse și testați în contexte de activitate.

Căi de ghidare aferenteVectori de funcție și reprezentări de sarcini
Întrebare 1 de 8

What does a function vector represent in the studied language models?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. What does a function vector represent in the studied language models?
    • A compact activation-space representation associated with a demonstrated task
    • The model’s full weight matrix
    • A single token embedding in every setting
    • The optimizer’s learning rate
  2. Cum este construit de obicei un vector de funcție?
    • Prin însumarea tuturor înglobărilor de cuvinte în vocabular
    • Prin mediarea rezultatelor unor sarcini specifice, captând atenția asupra exemplelor de solicitări
    • Prin reglarea fină a modelului pe un exemplu
    • Citind probabilitățile finale softmax
  3. What did the function-vector paper observe after injecting a vector into a zero-shot prompt?
    • The model always crashed
    • It guaranteed correct answers on any task
    • It could trigger the associated task in the tested settings
    • It permanently changed the model weights
  4. Ce tehnică de analiză stă la baza găsirii capetelor care poartă un vector de funcție?
    • Coborâre în gradient pe pierdere
    • Căutare fascicul
    • Regularizarea abandonului
    • Analiza medierii cauzale
  5. What do function-vector experiments provide evidence for?
    • Some models form reusable internal representations associated with tasks
    • All language models only memorize text
    • Every model has one universal task vector
    • Tokenization alone determines every behavior
  6. Why are function vectors interesting to steering research?
    • They guarantee safe or correct behavior
    • They provide an activation-level intervention that can influence task behavior in tested settings
    • They eliminate prompts for every application
    • They make all model decisions fully transparent
  7. At what part of the transformer did the paper report strong function-vector effects?
    • Only the input embedding table
    • Only the final output logits
    • Middle layers in the tested models
    • Vocabularul tokenizer
  8. What happened when researchers summed some function vectors?
    • The vectors always canceled to zero
    • The model’s weights were permanently updated
    • Every possible task was composed perfectly
    • Some combinations triggered new complex tasks in the tested experiments