Questionário vinculado ao guia · Médio Nível
Questionário de amostragem de núcleo e Top-k
Entenda como top-k, top-p e a temperatura alteram a amostragem de tokens e por que as escolhas de decodificação alteram o comportamento do texto gerado.
Pergunta 1 de 8
Como a amostragem top-k restringe as escolhas de tokens?
Visualize cada pergunta8 perguntas
As respostas e explicações aparecem conforme você responde ao teste.
- Como a amostragem top-k restringe as escolhas de tokens?
- Ele mantém apenas os k tokens de maior probabilidade e, em seguida, faz amostras entre eles
- Ele mantém os tokens até que a probabilidade cumulativa exceda k
- Ele sempre seleciona o token mais provável
- Ele remove apenas os k tokens menos prováveis
- O que define o 'núcleo' na amostragem do núcleo (topo-p)?
- As k palavras mais frequentes nos dados de treinamento
- O menor conjunto de tokens cujas probabilidades somam pelo menos p
- O único token de maior probabilidade
- Todos os tokens com probabilidade acima de 50%
- Qual é a principal vantagem do top-p sobre o top-k?
- É sempre mais rápido calcular
- Nunca produz saída aleatória
- O número de tokens candidatos se adapta à confiança do modelo
- Ele ignora as probabilidades simbólicas
- O que o parâmetro de temperatura faz antes da amostragem?
- Ele define o comprimento máximo da sequência
- Ele seleciona o idioma de saída
- Conta o tamanho do vocabulário
- Ele redimensiona a distribuição de probabilidade para ser mais nítida ou mais plana
- What result did the nucleus-sampling paper report for its tested open-ended generation tasks?
- It improved diversity without sacrificing fluency and coherence in the reported comparisons
- It guaranteed factual correctness in every output
- It eliminated all sampling randomness
- It improved translation quality on every benchmark
- For a greedy decoding baseline with no token sampling, how should generation be configured?
- Disable sampling and use greedy decoding to select the highest-probability token at each step
- Use high temperature and a large nucleus threshold
- Randomize the temperature at every step
- Keep sampling enabled but increase top-p
- After top-k truncation removes tokens, what happens to the remaining sampling probabilities?
- They remain assigned their original total mass below one
- They are replaced with equal probabilities
- They are renormalized over the retained top-k tokens
- They are converted into beam-search scores
- What did Holtzman et al. report about likelihood-maximizing decoding for open-ended text?
- It always yields the most diverse human-like passages
- Elimina a necessidade de um modelo de linguagem
- It guarantees factual correctness
- It can produce bland and repetitive text despite strong likelihood scores