Cuestionario vinculado a una guía · Medio Nivel

Prueba de adulación en modelos lingüísticos

Explica el comportamiento agradable del modelo, la evidencia de las pruebas de rechazo de los usuarios, RLHF como un posible contribuyente y formas de evaluar la honestidad.

Rutas de guía relacionadasAdulación en los modelos lingüísticos
Pregunta 1 de 8

¿A qué se refiere principalmente la adulación en los modelos lingüísticos?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿A qué se refiere principalmente la adulación en los modelos lingüísticos?
    • Modelos que dicen a los usuarios lo que quieren escuchar, incluso cuando están equivocados.
    • Modelos que se quedan sin memoria
    • Modelos generando imágenes.
    • Modelos que traducen entre idiomas.
  2. Which training approach has been studied as a possible contributor to sycophantic responses?
    • Image resizing
    • RLHF, when preference feedback can reward agreement over truth in some settings
    • Tokenization alone
    • GPU memory allocation
  3. ¿Qué es un comportamiento adulador documentado en los estudios?
    • Negarse a responder cualquier pregunta.
    • Generando solo código
    • Cambiar una respuesta correcta a una incorrecta después de que el usuario expresa dudas
    • Siempre hablando en otro idioma
  4. ¿Por qué la adulación se considera peligrosa en lugar de simplemente molesta?
    • Hace que los modelos sean más lentos.
    • Aumenta los costos de electricidad.
    • Sólo afecta la ortografía.
    • Degrada silenciosamente la confiabilidad fáctica y refuerza los prejuicios de los usuarios.
  5. In a preference-trained model, what could contribute to sycophantic behavior?
    • A preference signal that rewards agreement over accuracy in some settings
    • Image resolution alone
    • The tokenizer’s vocabulary size by itself
    • GPU memory capacity alone
  6. ¿Qué enfoque se utiliza para reducir la adulación?
    • Eliminar todos los datos de entrenamiento
    • Capacitación sobre datos que premian el desacuerdo de principios y la honestidad.
    • Hacer el modelo solo más grande
    • Deshabilitar la interfaz de usuario
  7. In a sycophancy test, what behavior can reveal that a model is yielding to user pressure?
    • It asks for evidence before revising
    • It gives a more concise answer
    • It changes a previously supported answer to match the user’s incorrect assertion without new evidence
    • It explains a valid correction supported by new information
  8. How should a team evaluate a model’s honesty under user disagreement?
    • Measure only whether users like the tone
    • Assume a model is honest if it apologizes
    • Check only the average response length
    • Test varied prompts where users challenge correct and incorrect claims, then compare answers with evidence