A continuaciónSiguiente guía
Tokenización y codificación de pares de bytes
Técnico
GUÍA Técnica
La codificación de objetivos reemplaza una categoría con un resumen numérico del resultado observado para esa categoría en los datos de entrenamiento permitidos.
Escuche esta guíaNarrado por IA · ~3 min
Puede hacer que las entradas categóricas con muchos valores distintos sean más fáciles de modelar, pero requiere una separación cuidadosa de las etiquetas de entrenamiento para evitar fugas.
Las características categóricas describen grupos como depósitos, proveedores o tipos de productos. La codificación one-hot crea un indicador separado para cada categoría. Con muchas categorías, la codificación de objetivos ofrece otra representación: reemplace cada categoría con un resumen de resultados, como un retraso medio para la regresión o una tasa de resultados positivos para la clasificación binaria. La señal útil es también la fuente de riesgo. Imagine una categoría que aparece una vez. La media de su categoría no suavizada es el resultado de esa fila. Si este valor se convierte en una entrada para predecir la misma fila, el modelo recibe la respuesta. Un buen rendimiento de entrenamiento en esta configuración puede desaparecer con nuevos datos. El cross-fitting ayuda a construir representaciones de entrenamiento más seguras. Divida los datos de entrenamiento en pliegues, calcule resúmenes de categorías utilizando los otros pliegues y codifique el pliegue reservado con esos resúmenes. Repita hasta que cada fila de entrenamiento tenga una codificación construida sin sus propias etiquetas de pliegue. El modelo downstream aprende de estas representaciones. En el momento de la evaluación o predicción, aplique las asignaciones aprendidas a partir de los datos de entrenamiento permitidos. El suavizado reduce la influencia de categorías con pocas observaciones al acercar sus resúmenes a una media de entrenamiento global. Un depósito poco común no debería recibir una codificación extrema únicamente debido a una entrega inusual. La cantidad de suavizado es una elección de modelado que necesita validación. TargetEncoder de Scikit-learn documenta una distinción importante: fit_transform utiliza ajuste cruzado interno, mientras que ajustar y luego transformar los mismos datos de entrenamiento no proporciona esa protección equivalente. No asuma que todas las bibliotecas implementan el mismo comportamiento. Mantenga el codificador dentro del proceso de evaluación, defina cómo se manejan las categorías invisibles y adapte la estrategia de división cuando el orden temporal o las entidades repetidas hagan que los pliegues aleatorios ordinarios sean inapropiados.
Un modelo de entrega representa un depósito utilizando su retraso medio histórico, calculado a partir de datos de entrenamiento. El mismo mapeo aprendido se aplica luego a los registros de evaluación sin observar sus resultados.
En una regla de suavizado hipotética, una categoría con dos resultados de 10 y 20 se combina con cuatro observaciones previas con una media global de 6. El valor suavizado es (30 más 24) dividido por seis, o 9.
Un pliegue de entrenamiento contiene una categoría que se ve en una sola fila. Codificar esa fila a partir de su propio resultado revelaría su etiqueta, por lo que el equipo construye su representación de entrenamiento a partir de otros pliegues.
Un analista utiliza TargetEncoder de scikit-learn en un Pipeline. Verifican su comportamiento de ajuste cruzado documentado en lugar de asumir que el ajuste seguido de transformación es equivalente a fit_transform.
Los codificadores categóricos seguirán siendo útiles cuando los datos operativos contengan una gran cantidad de identificadores cambiantes. Los equipos pueden mejorar la confiabilidad monitoreando categorías nuevas, categorías raras y cambios en sus patrones de resultados. También deben conservar el límite de entrenamiento y la versión del codificador junto con cada modelo implementado, de modo que se pueda rastrear una predicción hasta el mapeo utilizado. Las tuberías automatizadas podrían facilitar las comprobaciones de fugas, pero la decisión de diseño clave sigue siendo humana: determinar qué resultados estaban disponibles cuando se habría hecho una predicción y garantizar que cada característica derivada respete ese límite.
Boletín gratuito
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
La codificación de objetivos reemplaza una categoría con un resumen numérico del resultado observado para esa categoría en los datos de entrenamiento permitidos. Puede hacer que las entradas categóricas con muchos valores distintos sean más fáciles de modelar, pero requiere una separación cuidadosa de las etiquetas de entrenamiento para evitar fugas.
Con una sola observación, la media de la categoría iguala su objetivo, filtrando la respuesta en la entrada.
Otros pliegues proporcionan las estadísticas de la categoría, por lo que las etiquetas del pliegue retenido no definen su representación.
El numerador es 30 más cuatro por seis, o 54. El denominador es dos más cuatro, o seis. El resultado es nueve.
Las muestras pequeñas pueden producir extremos inestables y suavizar su influencia utiliza información de la población de entrenamiento más amplia.
El comportamiento fit_transform documentado incluye ajuste cruzado; el ajuste seguido de la transformación en las mismas filas no es equivalente.
sigue aprendiendo
Más guías seleccionadas para este tema.
A continuaciónSiguiente guía
Tokenización y codificación de pares de bytes
Técnico