LegközelebbKövetkező útmutató
Hogyan válaszol a vezető kérdések torzítása az AI-ra
Nyelvi AI
Nyelvi AI ÚTMUTATÓ
A Logit Bias egy olyan gomb, amely a nyelvi modellt meghatározott tokenek felé vagy onnan elmozdítja azáltal, hogy fix számot ad a pontszámokhoz, mielőtt a modell kiválasztja a következő szót.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
Könnyű módja a szavak tiltásának, a választások kényszerítésének vagy a stílus alakításának anélkül, hogy bármit is át kell tanítani.
Mielőtt egy modell kiválasztaná a következő tokenjét, egy logitot (normalizálatlan pontszámot) állít elő a szókincsében található minden tokenhez. A Logit torzítás lehetővé teszi, hogy állandó értéket adjon a kiválasztott tokenek logitjaihoz a numerikus tokenazonosítóik alapján. A nagy pozitív torzítás sokkal valószínűbbé teszi a token mintavételezését; a nagy negatív torzítás (az API-kban gyakran -100) gyakorlatilag tiltja. Mivel a kiigazítás a pontszámokat valószínűségekké alakító softmax előtt történik, még a szerény torzítások is jelentős mértékben eltolják az eloszlást. Lényeges, hogy az elfogultság a token azonosítókhoz, nem pedig a teljes szavakhoz kapcsolódik – így egy több tokenből álló szónak minden egyes darabját torzítani kell ahhoz, hogy teljesen elnyomja vagy előmozdítsa azt. Ez egy gyors, sebészeti vezérlés, amely nem igényel finomhangolást, és kérésre alkalmazható.
-100-as torzítás beállítása a trágár tokenekre, hogy megakadályozza, hogy a chatbot valaha is kiadjon bizonyos szavakat.
Az igen/nem osztályozó erőltetése az „Igen” és a „Nem” tokenek erős pozitív torzításával, és minden más elnyomásával.
A túlzottan használt kifejezések vagy töltelékszavak visszaszorítása mérsékelt negatív torzítás alkalmazásával a jelzőire.
A domain-specifikus kifejezések (például a terméknév) növelése, hogy az összefoglaló megbízhatóan említse őket.
A logit torzítás továbbra is alapvető fontosságú a gyors irányításhoz, de egyre több alternatíva létezik: a strukturált/korlátozott dekódolás a kemény garanciák érdekében, valamint az aktiváló irányítás vagy reprezentáció tervezése, amely a modell belső vektorait tolja el, nem csupán a kimeneti pontszámokat. Az API-któl elvárható, hogy a logit elfogultságot egyszerű menekülési nyílásként tartsák meg, miközben magasabb szintű vezérlőket kínálnak – tiltott kifejezések, stílusirányelvek, biztonsági szűrők –, amelyek automatikusan kezelik a tokenizálást, így a fejlesztőknek nem kell okoskodniuk a nyers tokenazonosítókkal.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A Logit Bias egy olyan gomb, amely a nyelvi modellt meghatározott tokenek felé vagy onnan elmozdítja azáltal, hogy fix számot ad a pontszámokhoz, mielőtt a modell kiválasztja a következő szót. Könnyű módja a szavak betiltásának, a választások kényszerítésének vagy a stílus alakításának anélkül, hogy bármit is át kell tanítani.
A logit torzítás állandót ad a kiválasztott tokenazonosítók logitjaihoz, megváltoztatva a kiválasztási valószínűségét anélkül, hogy magát a modellt megváltoztatná.
Egy nagy negatív torzítás, mint például a -100, a token softmax utáni valószínűségét lényegében nullára hajtja, így gyakorlatilag soha nem kerül előállításra.
The API reference documents a range of -100 to 100 for each token ID, where negative values decrease likelihood and positive values increase it.
Az elfogultsági értékek a tokenizátor szókincséből származó meghatározott tokenazonosítókra vonatkoznak, ezért ismernie kell a szórészek azonosítóit.
A Softmax hatványozza meg a logitokat, így még egy szerény pozitív torzítás is jelentősen megsokszorozza a token nem normalizált súlyát, jelentősen megnövelve az esélyét.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Hogyan válaszol a vezető kérdések torzítása az AI-ra
Nyelvi AI