Questionário vinculado ao guia · Médio Nível

Teste de preconceito Logit

Revise como o viés logit do ID do token altera a amostragem, suas limitações de subpalavras e por que os controles no nível do token podem afetar mais texto do que o pretendido.

Caminhos de guia relacionadosViés Logit
Pergunta 1 de 8

O que o viés logit modifica?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. O que o viés logit modifica?
    • A pontuação (logit) de tokens específicos antes da amostragem
    • Os pesos de treinamento do modelo permanentemente
    • A temperatura de todo o prompt
    • O número de tokens na janela de contexto
  2. Em muitas APIs, o que um viés logit de -100 em um token realiza?
    • Torna o token 100 vezes mais provável
    • Proíbe efetivamente a geração do token
    • Exclui o token do vocabulário para sempre
    • Dobra a velocidade do modelo
  3. What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
    • From 0 to 1 only
    • From -1 to 1 only
    • From -100 to 100
    • Any string value
  4. O viés logit está vinculado a qual identificador?
    • A palavra de texto simples
    • A posição da frase
    • O nome do modelo
    • O ID do token numérico
  5. Como os logits passam por um softmax, qual é o efeito de adicionar um viés positivo?
    • Aumenta exponencialmente o peso relativo do token antes da normalização
    • Adiciona linearmente uma probabilidade fixa
    • Não tem efeito até o treino
    • Ele remove o token de consideração
  6. Uma vantagem importante do viés logit em relação ao ajuste fino é que ele:
    • Melhora permanentemente o conhecimento do modelo
    • Não requer reciclagem e aplica-se mediante solicitação
    • Aumenta o tamanho da janela de contexto
    • Funciona apenas em imagens
  7. Why should a developer inspect the tokenizer before applying a bias to a visible word?
    • Token IDs are assigned only after sampling
    • Visible words always equal one token
    • The word may be represented by several token IDs, so biasing one ID may not cover all forms
    • The tokenizer controls the model’s training data
  8. What is a practical risk of applying a strong positive bias to one token?
    • It increases the context window
    • It changes the model weights permanently
    • It guarantees the token appears exactly once
    • It can distort generation or produce repetitive, awkward text