LegközelebbKövetkező útmutató
GloVe Global Vectors
Nyelvi AI
Nyelvi AI ÚTMUTATÓ
Function vectors are activation-space directions that can carry information about an in-context task in some transformer models and settings.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
Researchers extract them from selected attention-head outputs and test their effects by intervention. They provide evidence about internal task representations, not a guarantee that a model’s complete intent or reasoning can be read from one vector.
Todd and colleagues use causal mediation analysis to identify attention heads whose outputs carry information about a demonstrated in-context task. Aggregating selected head outputs produces a function vector. Injecting it into model activations can trigger the task on zero-shot or different-context inputs in the tested models and tasks. The paper also studies middle-layer effects and whether vectors can be combined to trigger more complex behavior. These results are empirical interventions on selected models, not a general mechanism for every model or task.
Egy olyan feladat elindítása, mint a „tőke listázása” egy nulla-lövésű promptban egy korábbi néhány példából kivont vektor beadásával.
A modell viselkedésének naplózása annak ellenőrzésével, hogy melyik feladatvektor aktív annak észlelésére, amikor egy modell csendesen vált a célok között.
A feladatirányok újrafelhasználható könyvtárának létrehozása, hogy az alkalmazások az újbóli felszólítás helyett hozzáadással váltsanak funkciókat.
A kompozíció tanulmányozása két függvényvektor hozzáadásával annak megállapítására, hogy a modell képes-e láncolni az olyan műveleteket, mint a „fordítás, majd a nagybetűk”.
Function-vector research offers a way to test how internal activations influence task behavior. Further work must examine how these vectors vary by model, layer, prompt, and task, and whether activation interventions can be made reliable. They should not be treated as complete explanations of a model’s objective or as a standalone safety control.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Function vectors are activation-space directions that can carry information about an in-context task in some transformer models and settings. Researchers extract them from selected attention-head outputs and test their effects by intervention. They provide evidence about internal task representations, not a guarantee that a model’s complete intent or reasoning can be read from one vector.
The paper identifies function vectors as compact representations of demonstrated tasks carried by selected attention-head activations in its tested models.
A kutatók megkeresik azokat a figyelemfejeket, amelyek ok-okozatilag hordozzák a feladat-azonosságot, és eredményeiket a demonstrációk között átlagolják, így alkotják meg a vektort.
The authors report that injected vectors can trigger associated tasks without the original examples across tested contexts; this is not a universal guarantee.
Az ok-okozati közvetítés elemzése azonosítja, hogy mely figyelemfej kimenetek határozzák meg okságilag a feladat azonosságát, elkülönítve a releváns fejeket.
The paper provides evidence for compact, causal task representations in the studied models and tasks, not proof that all behavior is encoded this way.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
GloVe Global Vectors
Nyelvi AI