Kvíz spojený s průvodcem · Střední úroveň
Kvíz o logitové zaujatosti
Přečtěte si, jak token-ID logit bias mění vzorkování, jeho omezení podslov a proč ovládací prvky na úrovni tokenu mohou ovlivnit více textu, než bylo zamýšleno.
Otázka 1 z 8
Co mění logit bias?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co mění logit bias?
- Skóre (logit) konkrétních tokenů před vzorkováním
- Tréninkové závaží modelky trvale
- Teplota celé výzvy
- Počet tokenů v kontextovém okně
- Čeho v mnoha rozhraních API dosáhne zkreslení logitu -100 na tokenu?
- Udělá token 100krát pravděpodobnější
- Účinně zakáže generování tokenu
- Navždy odstraní token ze slovní zásoby
- Zdvojnásobuje rychlost modelu
- What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
- From 0 to 1 only
- From -1 to 1 only
- From -100 to 100
- Any string value
- K jakému identifikátoru je klíčováno zkreslení logit?
- Slovo v prostém textu
- Pozice věty
- Jméno modelky
- Číselné ID tokenu
- Protože logity procházejí softmaxem, jaký je účinek přidání kladného vychýlení?
- Exponenciálně zvyšuje relativní váhu tokenu před normalizací
- Lineárně přidává pevnou pravděpodobnost
- Do tréninku to nemá žádný účinek
- Odebere token z úvahy
- Klíčovou výhodou logit bias oproti jemnému ladění je, že:
- Trvale zlepšuje znalosti modelu
- Nevyžaduje rekvalifikaci a platí na vyžádání
- Zvětší velikost kontextového okna
- Funguje pouze na obrázky
- Why should a developer inspect the tokenizer before applying a bias to a visible word?
- Token IDs are assigned only after sampling
- Visible words always equal one token
- The word may be represented by several token IDs, so biasing one ID may not cover all forms
- The tokenizer controls the model’s training data
- What is a practical risk of applying a strong positive bias to one token?
- It increases the context window
- It changes the model weights permanently
- It guarantees the token appears exactly once
- It can distort generation or produce repetitive, awkward text