Cuestionario vinculado a una guía · duro Nivel

Prueba de control de Mirostat Perplexity

Cubre la sorpresa/perplejidad del objetivo de Mirostat, el umbral de retroalimentación, la tasa de actualización, las diferencias de versión y los límites como una heurística de decodificación.

Rutas de guía relacionadasMirostato Perplexity Control
Pregunta 1 de 8

What does Mirostat try to control during generation?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. What does Mirostat try to control during generation?
    • A target level of output perplexity or surprise
    • El número de parámetros del modelo.
    • The training dataset size
    • La temperatura de la GPU
  2. ¿En qué se diferencia fundamentalmente Mirostat del muestreo estándar top-k o top-p?
    • Nunca usa aleatoriedad
    • Ajusta dinámicamente el truncamiento mediante retroalimentación en lugar de un límite fijo
    • Sólo funciona en imágenes.
    • Requiere volver a entrenar el modelo.
  3. ¿Qué papel juega en Mirostat el parámetro eta?
    • Establece el tamaño del vocabulario.
    • Fija la longitud de salida.
    • Es la tasa de aprendizaje que controla qué tan rápido se adapta el umbral.
    • Desactiva el muestreo
  4. ¿Cuál es la principal mejora de la versión 2 de Mirostat respecto a la versión 1?
    • También genera imágenes.
    • Requiere más memoria
    • Elimina el parámetro tau.
    • Elimina el supuesto de una distribución zipfiana para un control más simple y sólido.
  5. Si Mirostat detecta que la producción se está volviendo demasiado predecible, hará lo siguiente:
    • Aflojar el truncamiento para admitir tokens más diversos
    • Ajustar el truncamiento para permitir menos tokens
    • Deja de generar inmediatamente
    • Aumentar el tamaño del modelo.
  6. Which Mirostat settings does current llama.cpp expose?
    • Tokenizer vocabulary and number of layers
    • Mode, target tau, and learning-rate eta
    • Only the prompt length
    • Training epochs and validation loss
  7. What does eta control in Mirostat’s feedback update?
    • The size of the model vocabulary
    • The target number of output tokens
    • How strongly the threshold changes in response to the observed error
    • The probability of a correct factual answer
  8. What does a Mirostat target not guarantee by itself?
    • That the sampler reads token probabilities
    • That the setting can influence surprise
    • That the output contains tokens
    • That the generated text is factually correct