A continuaciónSiguiente guía
Aprendizaje por refuerzo inverso
Técnico
GUÍA Técnica
El aprendizaje por refuerzo entrena a un agente para elegir acciones utilizando retroalimentación sobre sus consecuencias.
Escuche esta guíaNarrado por IA · ~2 min
El agente interactúa con un entorno e intenta mejorar un objetivo de recompensa acumulativa. La recompensa es una señal diseñada y puede que solo represente de manera imperfecta el comportamiento que la gente desea.
El agente observa un estado u observación, elige una acción de acuerdo con una política y recibe retroalimentación. Una acción puede cambiar las situaciones encontradas más adelante, por lo que la tarea difiere de predecir etiquetas independientes. Una secuencia de interacciones puede formar un episodio, como un juego o un viaje simulado. La exploración intenta acciones para conocer sus consecuencias. La explotación utiliza lo que el agente ha aprendido para buscar recompensa. Los despliegues reales deben limitar la exploración cuando los errores pueden afectar a las personas, los equipos o los presupuestos. Una simulación suele ser útil, pero el éxito dentro de ella puede depender de suposiciones que fallan fuera de ella. Las recompensas retrasadas crean un problema de asignación de créditos: ¿qué acciones anteriores ayudaron o perjudicaron el resultado? Los algoritmos estiman valores o mejoran directamente las políticas utilizando la experiencia. La elección de la observación, el espacio de acción, la recompensa y el horizonte temporal pueden ser tan importantes como el nombre del algoritmo. Pruebe si una política aprovecha las lagunas en la recompensa. Si un agente de soporte gana una recompensa por cerrar tickets, podría cerrar solicitudes no resueltas. Incluya verificaciones directas de la finalización de las tareas y de los resultados inaceptables. Compare el rendimiento en diversas condiciones iniciales e informe el costo de recopilar experiencia.
04Ejemplo resuelto
En un episodio inventado de tres pasos, las recompensas son 2, 0 y 5. Con un factor de descuento de 0,9, el rendimiento del primer paso es 2 + 0,9 × 0 + 0,9² × 5.
El resultado es 6,05. Sin descontar, el total sería 7.
Cambiar la definición o el horizonte de recompensa podría cambiar qué política se prefiere incluso en el mismo entorno.
lo que muestra
Este ejemplo aritmético explica el objetivo; no es un resultado medido de aprendizaje por refuerzo.
Entrenar una política en un simulador con acciones seguras claramente definidas.
Comparar políticas de acción utilizando resultados registrados cuando los supuestos de la evaluación sean defendibles.
Boletín gratuito
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
No necesariamente. Las recompensas pueden ser medidas numéricas, resultados o indicadores de retroalimentación. Se debe evaluar su conexión con el objetivo previsto.
sigue aprendiendo
Más guías seleccionadas para este tema.
A continuaciónSiguiente guía
Aprendizaje por refuerzo inverso
Técnico