Mit dem Guide verknüpftes Quiz · Schwer Ebene

Quiz zu Funktionsvektoren und Aufgabendarstellungen

Untersuchen Sie, wie Funktionsvektoren aus Aufmerksamkeitsköpfen extrahiert, in verborgene Zustände injiziert und über Aufgabenkontexte hinweg getestet werden.

Verwandte FührungspfadeFunktionsvektoren und Aufgabendarstellungen
Frage 1 von 8

What does a function vector represent in the studied language models?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. What does a function vector represent in the studied language models?
    • A compact activation-space representation associated with a demonstrated task
    • The model’s full weight matrix
    • A single token embedding in every setting
    • The optimizer’s learning rate
  2. Wie ist ein Funktionsvektor typischerweise aufgebaut?
    • Durch Summieren aller Worteinbettungen im Vokabular
    • Durch Mitteln der Ergebnisse spezifischer aufgabenbezogener Aufmerksamkeitsköpfe anhand von Beispielaufforderungen
    • Durch Feinabstimmung des Modells anhand eines Beispiels
    • Durch Lesen der endgültigen Softmax-Wahrscheinlichkeiten
  3. What did the function-vector paper observe after injecting a vector into a zero-shot prompt?
    • The model always crashed
    • It guaranteed correct answers on any task
    • It could trigger the associated task in the tested settings
    • It permanently changed the model weights
  4. Welche Analysetechnik unterstützt die Suche nach den Köpfen, die einen Funktionsvektor tragen?
    • Gefälle beim Verlust
    • Strahlsuche
    • Dropout-Regularisierung
    • Analyse der kausalen Mediation
  5. What do function-vector experiments provide evidence for?
    • Some models form reusable internal representations associated with tasks
    • All language models only memorize text
    • Every model has one universal task vector
    • Tokenization alone determines every behavior
  6. Why are function vectors interesting to steering research?
    • They guarantee safe or correct behavior
    • They provide an activation-level intervention that can influence task behavior in tested settings
    • They eliminate prompts for every application
    • They make all model decisions fully transparent
  7. At what part of the transformer did the paper report strong function-vector effects?
    • Only the input embedding table
    • Only the final output logits
    • Middle layers in the tested models
    • Das Tokenizer-Vokabular
  8. What happened when researchers summed some function vectors?
    • The vectors always canceled to zero
    • The model’s weights were permanently updated
    • Every possible task was composed perfectly
    • Some combinations triggered new complex tasks in the tested experiments