Quiz lié à un guide · Moyen Niveau

Quiz sur le biais logit

Examinez comment le biais logit de l'ID de jeton modifie l'échantillonnage, ses limitations de sous-mots et pourquoi les contrôles au niveau du jeton peuvent affecter plus de texte que prévu.

Chemins de guidage associésBiais logitique
Question 1 de 8

Que modifie le biais logit ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Que modifie le biais logit ?
    • Le score (logit) de jetons spécifiques avant l'échantillonnage
    • Les poids d'entraînement du modèle en permanence
    • La température de toute l'invite
    • Le nombre de jetons dans la fenêtre contextuelle
  2. Dans de nombreuses API, qu'est-ce qu'un biais logit de -100 sur un jeton accomplit ?
    • Rend le jeton 100 fois plus probable
    • Interdit effectivement la génération du jeton
    • Supprime définitivement le jeton du vocabulaire
    • Double la vitesse du modèle
  3. What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
    • From 0 to 1 only
    • From -1 to 1 only
    • From -100 to 100
    • Any string value
  4. Le biais logit est lié à quel identifiant ?
    • Le mot en texte brut
    • La position de la phrase
    • Le nom du modèle
    • L'ID du jeton numérique
  5. Étant donné que les logits passent par un softmax, quel est l'effet de l'ajout d'un biais positif ?
    • Cela augmente de manière exponentielle le poids relatif du jeton avant la normalisation
    • Il ajoute linéairement une probabilité fixe
    • Cela n'a aucun effet jusqu'à l'entraînement
    • Il supprime le jeton de la considération
  6. Un avantage clé du biais logit par rapport au réglage fin est qu’il :
    • Améliore en permanence les connaissances du modèle
    • Ne nécessite aucun recyclage et s'applique sur demande
    • Augmente la taille de la fenêtre contextuelle
    • Fonctionne uniquement sur les images
  7. Why should a developer inspect the tokenizer before applying a bias to a visible word?
    • Token IDs are assigned only after sampling
    • Visible words always equal one token
    • The word may be represented by several token IDs, so biasing one ID may not cover all forms
    • The tokenizer controls the model’s training data
  8. What is a practical risk of applying a strong positive bias to one token?
    • It increases the context window
    • It changes the model weights permanently
    • It guarantees the token appears exactly once
    • It can distort generation or produce repetitive, awkward text