A continuaciónSiguiente guía
Puntos de referencia de IA
Técnico
GUÍA DE FUNDAMENTOS
Contaminación de referencia
La contaminación de los puntos de referencia ocurre cuando las preguntas o respuestas de un punto de referencia de evaluación terminan en los datos de entrenamiento de un modelo, por lo que una puntuación alta puede reflejar memorización en lugar de una capacidad real.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina4 minutos de lectura
Descripción general
Es importante porque los números de las tablas de clasificación impulsan las afirmaciones de investigación y las decisiones de compra, y las puntuaciones contaminadas exageran cómo funcionará un modelo en problemas que nunca ha visto.
Buceo profundo
Los modelos de lenguaje grandes se entrenan en texto a escala web que incluye artículos, foros y sitios de tutoriales GitHub, arXiv. Los puntos de referencia populares son públicos por diseño, por lo que sus preguntas, respuestas y debates se copian en la web y se incorporan a los datos de capacitación. La contaminación puede ser directa, donde aparece el elemento de prueba exacto, o indirecta, a través de paráfrasis, traducciones, reseñas de soluciones o datos sintéticos generados por otro modelo que había visto el punto de referencia. También puede ingresar durante el ajuste fino si los conjuntos de datos de instrucciones se ensamblaron a partir de fuentes similares a las de puntos de referencia. Una distinción útil es entre ver sólo la pregunta y ver la pregunta con su respuesta. El segundo es más perjudicial, porque el modelo puede recordar la respuesta en lugar de resolverla. El resultado es una puntuación inflada que no se traslada a nuevos problemas. La concienciación sobre el laboratorio no es nueva. El artículo GPT-3 (2020) realizó un análisis de superposición de 13 gramos entre sus puntos de referencia y los datos de entrenamiento y reconoció que un error dejó algunas superposiciones. Cuando hay datos de entrenamiento disponibles, la búsqueda superpuesta es la verificación más directa. Cuando no es así, los investigadores utilizan métodos indirectos: solicitar al modelo el inicio de un ítem de prueba para ver si completa el resto palabra por palabra; métodos de inferencia de membresía como Min-K% Prob (Shi y colegas, 2023), que analizan con qué confianza un modelo predice los tokens de un texto; comparar puntuaciones de elementos originales con equivalentes reescritos o recién escritos; y divisiones basadas en el tiempo que comparan los problemas creados antes y después del corte de capacitación. Son comunes dos conceptos erróneos. En primer lugar, la superposición no siempre eleva mucho las puntuaciones; algunos estudios encuentran efectos modestos en ciertas tareas. En segundo lugar, no encontrar una superposición exacta no prueba que un punto de referencia sea limpio, porque las copias parafraseadas o traducidas pasan por alto la coincidencia de cadenas. Las mitigaciones incluyen conjuntos de pruebas privadas, cadenas canary, puntos de referencia actualizados periódicamente como LiveBench y LiveCodeBench, filtros de descontaminación y publicación de análisis de contaminación junto con los resultados.
Implementación en el mundo real
Los problemas de un punto de referencia de matemáticas se vuelven a publicar en foros con soluciones trabajadas; un rastreo web recopila esas páginas y un modelo entrenado en ellas reproduce posteriormente las respuestas exactas, incluida una peculiaridad en la redacción original.
Los investigadores de Scale AI escribieron GSM1k, nuevos problemas matemáticos para la escuela primaria que coincidían con GSM8K en estilo y dificultad, y encontraron que algunos modelos obtuvieron puntuaciones notablemente más bajas en el nuevo conjunto, una señal de sobreajuste al punto de referencia público.
Un punto de referencia de codificación que fecha cada problema muestra un modelo que resuelve muchos más problemas publicados antes de su límite de entrenamiento que después, que es el patrón para el cual LiveCodeBench fue diseñado para exponer.
Las tareas de BIG-bench incluyen una cadena canary única para que los equipos de datos puedan filtrar cualquier documento que lo contenga fuera de los corpus de entrenamiento y luego verificar si un modelo puede reproducirlo.
El futuro de la contaminación de referencia
La práctica de evaluación está cambiando hacia conjuntos de pruebas privados o parcialmente privados, puntos de referencia que agregan nuevos elementos con el tiempo y evaluadores externos que controlan los datos de las pruebas. Eso crea una tensión real con la apertura, ya que los puntos de referencia públicos son fáciles de reproducir e inspeccionar. Una mayor transparencia sobre los datos de entrenamiento facilitaría mucho las comprobaciones de contaminación, pero muchos desarrolladores de modelos no publican los detalles completos de los datos. Los lectores deben tratar cualquier puntaje de referencia estático con precaución y buscar resultados en datos nuevos o no disponibles antes de sacar conclusiones sólidas.
Poniéndolo en práctica
Por qué es importante
- Decisiones más claras. Le ayuda a separar las afirmaciones técnicas claras del lenguaje de marketing.
- Costo y presupuesto. Puede hacer mejores preguntas sobre implementación antes de gastar dinero o tiempo.
- Equipo y flujo de trabajo. Los equipos con conocimientos compartidos toman mejores decisiones sobre productos, políticas y aprendizaje.
cuidado con
- Diferentes equipos pueden usar el mismo término de manera diferente, por lo tanto, defina el alcance con anticipación.
- Los puntos de referencia pueden parecer sólidos, mientras que el desempeño en el mundo real es desigual.
- Ignorar la calidad de los datos y los planes de evaluación a menudo genera resultados frágiles.
Próximos pasos
- Comience con una definición en lenguaje sencillo del resultado que necesita.
- Elija una métrica de éxito y una condición de fracaso antes de realizar la prueba.
- Ejecute un pequeño piloto con datos representativos, no un conjunto de demostración pulido.
- Documente dónde ayuda la contaminación de referencia y dónde son mejores los métodos más simples.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the Benchmark Contamination quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué es la contaminación de referencia?
La contaminación de los puntos de referencia ocurre cuando las preguntas o respuestas de un punto de referencia de evaluación terminan en los datos de entrenamiento de un modelo, por lo que una puntuación alta puede reflejar memorización en lugar de una capacidad real. Es importante porque los números de las tablas de clasificación impulsan las afirmaciones de investigación y las decisiones de compra, y las puntuaciones contaminadas exageran cómo funcionará un modelo en problemas que nunca ha visto.
¿Qué es la contaminación de referencia?
La contaminación significa que el modelo puede haber visto material de prueba durante el entrenamiento, por lo que su puntuación puede reflejar la memorización.
¿Cuál es el propósito de la cadena canaria incluida en las tareas de BIG-bench?
Un identificador único facilita encontrar y eliminar texto de referencia de los corpus y comprobar si un modelo lo ha memorizado.
¿Qué sugiere el estudio GSM1k?
Una caída en los nuevos problemas que coinciden en estilo y dificultad apunta a un ajuste excesivo al punto de referencia público en lugar de a la habilidad matemática general.
¿Qué análisis de superposición realizó el artículo GPT-3?
Los autores de GPT-3 comprobaron la superposición de 13 gramos y reconocieron un error que dejaba algunas superposiciones sin eliminar.
¿Cuál es la idea central de Min-K% Prob?
El método promedia el k por ciento más bajo de probabilidades logarítmicas de tokens; El texto memorizado obtiene puntuaciones inusualmente altas porque poco en él sorprende al modelo.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.