Quiz collegato alla guida · Medio Livello

Quiz sui pregiudizi di Logit

Esamina il modo in cui il bias logit dell'ID token altera il campionamento, le limitazioni delle sottoparole e il motivo per cui i controlli a livello di token possono influenzare più testo del previsto.

Percorsi guida correlatiLogit Bias
Domanda 1 di 8

Cosa modifica il bias logit?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Cosa modifica il bias logit?
    • Il punteggio (logit) di token specifici prima del campionamento
    • I pesi di allenamento del modello sono permanenti
    • La temperatura dell'intero prompt
    • Il numero di token nella finestra di contesto
  2. In molte API, cosa comporta un bias logit pari a -100 su un token?
    • Rende il token 100 volte più probabile
    • Impedisce effettivamente la generazione del token
    • Elimina per sempre il token dal vocabolario
    • Raddoppia la velocità del modello
  3. What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
    • From 0 to 1 only
    • From -1 to 1 only
    • From -100 to 100
    • Any string value
  4. Il bias logit è legato a quale identificatore?
    • La parola in testo semplice
    • La posizione della frase
    • Il nome del modello
    • L'ID del token numerico
  5. Poiché i logit vengono passati attraverso un softmax, qual è l'effetto dell'aggiunta di un bias positivo?
    • Aumenta esponenzialmente il peso relativo del token prima della normalizzazione
    • Aggiunge linearmente una probabilità fissa
    • Non ha alcun effetto fino all'allenamento
    • Rimuove il token dalla considerazione
  6. Un vantaggio chiave della distorsione logit rispetto al fine tuning è che:
    • Migliora permanentemente la conoscenza del modello
    • Non richiede riqualificazione e si applica per richiesta
    • Aumenta la dimensione della finestra di contesto
    • Funziona solo sulle immagini
  7. Why should a developer inspect the tokenizer before applying a bias to a visible word?
    • Token IDs are assigned only after sampling
    • Visible words always equal one token
    • The word may be represented by several token IDs, so biasing one ID may not cover all forms
    • The tokenizer controls the model’s training data
  8. What is a practical risk of applying a strong positive bias to one token?
    • It increases the context window
    • It changes the model weights permanently
    • It guarantees the token appears exactly once
    • It can distort generation or produce repetitive, awkward text