Questionário vinculado ao guia · Médio Nível

Questionário de amostragem de núcleo e Top-k

Entenda como top-k, top-p e a temperatura alteram a amostragem de tokens e por que as escolhas de decodificação alteram o comportamento do texto gerado.

Caminhos de guia relacionadosAmostragem de Núcleo e Top K
Pergunta 1 de 8

Como a amostragem top-k restringe as escolhas de tokens?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. Como a amostragem top-k restringe as escolhas de tokens?
    • Ele mantém apenas os k tokens de maior probabilidade e, em seguida, faz amostras entre eles
    • Ele mantém os tokens até que a probabilidade cumulativa exceda k
    • Ele sempre seleciona o token mais provável
    • Ele remove apenas os k tokens menos prováveis
  2. O que define o 'núcleo' na amostragem do núcleo (topo-p)?
    • As k palavras mais frequentes nos dados de treinamento
    • O menor conjunto de tokens cujas probabilidades somam pelo menos p
    • O único token de maior probabilidade
    • Todos os tokens com probabilidade acima de 50%
  3. Qual é a principal vantagem do top-p sobre o top-k?
    • É sempre mais rápido calcular
    • Nunca produz saída aleatória
    • O número de tokens candidatos se adapta à confiança do modelo
    • Ele ignora as probabilidades simbólicas
  4. O que o parâmetro de temperatura faz antes da amostragem?
    • Ele define o comprimento máximo da sequência
    • Ele seleciona o idioma de saída
    • Conta o tamanho do vocabulário
    • Ele redimensiona a distribuição de probabilidade para ser mais nítida ou mais plana
  5. What result did the nucleus-sampling paper report for its tested open-ended generation tasks?
    • It improved diversity without sacrificing fluency and coherence in the reported comparisons
    • It guaranteed factual correctness in every output
    • It eliminated all sampling randomness
    • It improved translation quality on every benchmark
  6. For a greedy decoding baseline with no token sampling, how should generation be configured?
    • Disable sampling and use greedy decoding to select the highest-probability token at each step
    • Use high temperature and a large nucleus threshold
    • Randomize the temperature at every step
    • Keep sampling enabled but increase top-p
  7. After top-k truncation removes tokens, what happens to the remaining sampling probabilities?
    • They remain assigned their original total mass below one
    • They are replaced with equal probabilities
    • They are renormalized over the retained top-k tokens
    • They are converted into beam-search scores
  8. What did Holtzman et al. report about likelihood-maximizing decoding for open-ended text?
    • It always yields the most diverse human-like passages
    • Elimina a necessidade de um modelo de linguagem
    • It guarantees factual correctness
    • It can produce bland and repetitive text despite strong likelihood scores