Quiz collegato alla guida · Medio Livello
Quiz sui pregiudizi di Logit
Esamina il modo in cui il bias logit dell'ID token altera il campionamento, le limitazioni delle sottoparole e il motivo per cui i controlli a livello di token possono influenzare più testo del previsto.
Domanda 1 di 8
Cosa modifica il bias logit?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Cosa modifica il bias logit?
- Il punteggio (logit) di token specifici prima del campionamento
- I pesi di allenamento del modello sono permanenti
- La temperatura dell'intero prompt
- Il numero di token nella finestra di contesto
- In molte API, cosa comporta un bias logit pari a -100 su un token?
- Rende il token 100 volte più probabile
- Impedisce effettivamente la generazione del token
- Elimina per sempre il token dal vocabolario
- Raddoppia la velocità del modello
- What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
- From 0 to 1 only
- From -1 to 1 only
- From -100 to 100
- Any string value
- Il bias logit è legato a quale identificatore?
- La parola in testo semplice
- La posizione della frase
- Il nome del modello
- L'ID del token numerico
- Poiché i logit vengono passati attraverso un softmax, qual è l'effetto dell'aggiunta di un bias positivo?
- Aumenta esponenzialmente il peso relativo del token prima della normalizzazione
- Aggiunge linearmente una probabilità fissa
- Non ha alcun effetto fino all'allenamento
- Rimuove il token dalla considerazione
- Un vantaggio chiave della distorsione logit rispetto al fine tuning è che:
- Migliora permanentemente la conoscenza del modello
- Non richiede riqualificazione e si applica per richiesta
- Aumenta la dimensione della finestra di contesto
- Funziona solo sulle immagini
- Why should a developer inspect the tokenizer before applying a bias to a visible word?
- Token IDs are assigned only after sampling
- Visible words always equal one token
- The word may be represented by several token IDs, so biasing one ID may not cover all forms
- The tokenizer controls the model’s training data
- What is a practical risk of applying a strong positive bias to one token?
- It increases the context window
- It changes the model weights permanently
- It guarantees the token appears exactly once
- It can distort generation or produce repetitive, awkward text