Questionário vinculado ao guia · Difícil Nível

Questionário de amostragem típico

Verifica a classificação típica de surpresa baseada em entropia, o limite de massa tipica_p e as diferenças da amostragem p superior com classificação de probabilidade.

Caminhos de guia relacionadosAmostragem Típica
Pergunta 1 de 8

Com qual quantidade principal a amostragem típica compara cada token candidato?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. Com qual quantidade principal a amostragem típica compara cada token candidato?
    • O conteúdo de informação esperado (entropia) da distribuição
    • O tamanho geral do vocabulário do modelo
    • A posição do token na frase
    • O parâmetro de temperatura sozinho
  2. Como a amostragem típica trata o token mais provável?
    • Ele sempre seleciona primeiro
    • Pode excluí-lo se a sua surpresa estiver muito abaixo do valor esperado
    • Duplica sua probabilidade
    • Ignora totalmente a probabilidade
  3. A amostragem típica foi motivada por qual ideia sobre a linguagem humana?
    • Os humanos sempre escolhem as palavras mais raras possíveis
    • Humanos nunca repetem palavras
    • Os humanos se comunicam quase a uma taxa constante de informações
    • Os humanos falam em frases de comprimento fixo
  4. O que significa o parâmetro tau no controle de amostragem típico?
    • A taxa de aprendizagem durante o treinamento
    • O número de camadas no modelo
    • O comprimento máximo da frase
    • A massa de probabilidade cumulativa coletada no conjunto típico
  5. Compared with greedy decoding, what does typical sampling try to change?
    • It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
    • It always selects the most probable token
    • It guarantees every continuation is factually correct
    • It removes probability scores from decoding
  6. Em que tipo de software a amostragem típica é comumente exposta aos desenvolvedores?
    • Aplicativos de planilha
    • Bibliotecas de inferência LLM de código aberto, como Hugging Face Transformers
    • Ferramentas de edição de imagens
    • Mecanismos de consulta de banco de dados
  7. How does typical sampling rank candidate tokens differently from top-p sampling?
    • By alphabetical order of token strings
    • By token position in the prompt
    • By distance between token surprisal and expected surprisal, rather than probability rank alone
    • By the model’s training loss
  8. Which value does typical_p control?
    • The model’s vocabulary size
    • The number of transformer layers
    • The probability that the answer is factually correct
    • The target cumulative probability mass collected in the typical set