Cuestionario vinculado a una guía · duro Nivel

Funciones de influencia para el cuestionario de atribución de datos de entrenamiento

Comprueba contrafactuales de función de influencia, aproximaciones de Hesse, el significado de los signos de influencia y la atribución de datos en modelos lingüísticos.

Rutas de guía relacionadasFunciones de influencia para la atribución de datos de entrenamiento
Pregunta 1 de 8

¿A qué pregunta contrafáctica se aproximan las funciones de influencia?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿A qué pregunta contrafáctica se aproximan las funciones de influencia?
    • Cómo cambiaría la pérdida en un punto de prueba si se eliminara o aumentara la ponderación de un ejemplo de entrenamiento
    • ¿Qué tan preciso es el modelo en promedio?
    • ¿Qué tan rápido entrena el modelo?
    • ¿Cuántos parámetros tiene el modelo?
  2. ¿Qué objeto matemático hace que el cálculo de la influencia exacta sea intratable para modelos grandes?
    • La función softmax
    • El hessiano inverso de la pérdida.
    • El calendario de tasas de aprendizaje.
    • El tamaño del lote
  3. ¿Quién adaptó las funciones de influencia al aprendizaje profundo moderno en un conocido artículo de 2017?
    • Goodfellow y Bengio
    • Vaswani et al.
    • Koh y Liang
    • Hinton y LeCun
  4. Under Koh and Liang’s standard I_up,loss convention, what does a negative value indicate?
    • The point was not in the training data
    • Upweighting the point is estimated to increase test loss
    • The point has no relationship to the test example
    • Upweighting the point is estimated to lower test loss, so it is helpful
  5. ¿Qué aproximación utilizó Anthropic para escalar funciones de influencia a modelos de lenguaje grandes?
    • EK-FAC (curvatura factorizada de Kronecker)
    • Abandono
    • búsqueda de haz
    • confusión
  6. ¿Qué encontró el estudio a escala de Anthropic sobre ejemplos influyentes?
    • Siempre son copias exactas del resultado.
    • A menudo comparten patrones abstractos en lugar de palabras idénticas.
    • Están distribuidos aleatoriamente
    • Sólo importa el primer ejemplo de entrenamiento
  7. In the influence-function approximation, what connects a training-example gradient to the effect on a test loss?
    • The test set’s token count
    • A random forest over training labels
    • The inverse Hessian of the training loss
    • The model’s output vocabulary size
  8. If removing one training example is estimated to increase a test point’s loss, what does that suggest about the example?
    • It was guaranteed to be a duplicate
    • It had no relationship to the model
    • It necessarily caused the model to overfit
    • It had a helpful influence on that test point under the approximation