Questionário de decodificação contrastiva

As respostas e explicações aparecem conforme você responde ao teste.

1. Na decodificação contrastiva, que papel desempenha o pequeno modelo “amador”?
   • Suas probabilidades logarítmicas são subtraídas para suprimir modos de falha compartilhados
   • Ele gera o texto de saída final diretamente
   • É ajustado aos erros do especialista
   • Substitui o perito quando este não tem certeza
2. Por que subtrair as probabilidades do amador reduz a repetição e a produção insípida?
   • O amador é treinado para nunca repetir palavras
   • Tokens genéricos e repetitivos são favorecidos por ambos os modelos, portanto o contraste os cancela
   • O amador exclui tokens duplicados após geração
   • A repetição é impossível quando dois modelos votam
3. What does the adaptive plausibility constraint do in contrastive decoding?
   • It guarantees every remaining continuation is coherent and true
   • It replaces the expert distribution with the amateur distribution
   • It filters out candidates whose expert probability is too low relative to the expert’s top token
   • It forces every token to have equal probability
4. Aproximadamente qual é a fórmula de pontuação na decodificação contrastiva?
   • log p_amador menos log p_expert
   • p_expert vezes p_amateur
   • A média das duas probabilidades
   • log p_expert menos um coeficiente vezes log p_amateur
5. Uma vantagem prática importante da decodificação contrastiva é que ela:
   • Funciona no momento da inferência sem treinamento extra
   • Requer reciclagem de ambos os modelos em conjunto
   • Funciona apenas em tarefas de classificação
   • Elimina a necessidade de um modelo grande
6. Qual método posterior estende a ideia contrastiva às próprias camadas de um único modelo?
   • Pesquisa de feixe
   • DoLa, que contrasta camadas iniciais e finais
   • Decodificação gananciosa
   • Escala de temperatura
7. The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
   • 0.4
   • 0,1
   • 0.04
   • 0.004
8. Why can contrastive decoding require more inference work than using the expert model alone?
   • It must retrain both models for every prompt
   • It replaces the vocabulary with image patches
   • It runs only the amateur model
   • It scores candidates with both an expert and an amateur model at inference time