Cuestionario vinculado a una guía · Medio Nivel

Prueba de temperatura y muestreo

Pruebe el escalado de temperatura logit, la decodificación codiciosa, los filtros candidatos de núcleo y top-k, los límites numéricos y los límites de la generación predecible.

Rutas de guía relacionadasTemperatura y muestreo
Pregunta 1 de 8

¿Qué efecto tiene el aumento de la temperatura en la salida de un modelo?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Qué efecto tiene el aumento de la temperatura en la salida de un modelo?
    • Lo hace más determinista y repetitivo.
    • Cambia permanentemente los pesos del modelo.
    • Desactiva la función softmax
    • Lo hace más aleatorio y variado, con más posibilidades de que aparezcan fichas inusuales.
  2. Antes del muestreo, las puntuaciones de los tokens brutos (logits) del modelo se convierten en probabilidades mediante:
    • El filtro top-k
    • La función softmax
    • Propagación hacia atrás
    • El tokenizador
  3. What determines the candidate set in top-p sampling, compared with top-k?
    • Top-p always keeps exactly ten tokens
    • Both methods always keep every vocabulary token
    • Top-p uses the smallest leading set reaching a cumulative probability threshold; top-k uses a count
    • Top-k uses a cumulative threshold while top-p uses a fixed count
  4. Mecánicamente, ¿qué efecto real tiene la temperatura en los logits?
    • Divide cada logit por T antes de softmax
    • Agrega un número aleatorio a cada logit
    • Elimina los logits más bajos
    • Multiplica las probabilidades finales por T
  5. For a structured-data task, what does choosing more predictable token selection fail to establish?
    • That a decoding setting was chosen
    • That the generated content is correct or valid
    • That token scores can be compared
    • That a model can produce an output
  6. How does greedy decoding choose the next token?
    • It literally divides every logit by zero
    • It uniformly samples every vocabulary token
    • It permanently retrains the model
    • It selects a highest-scoring eligible token rather than sampling
  7. Two token logits differ by six before temperature scaling. With positive temperature two, what is their scaled difference?
    • tres
    • Doce
    • Seis
    • Cero
  8. For probabilities 0.55, 0.30, 0.10, and 0.05, how many leading tokens does top-p 0.80 keep?
    • uno
    • tres
    • dos
    • cuatro