À suivreGuide suivant
Apprentissage par renforcement inverse
Technique
GUIDE Technique
L'apprentissage par renforcement entraîne un agent à choisir des actions en utilisant des commentaires sur leurs conséquences.
Écoutez ce guideNarré par l'IA · ~2 min
L'agent interagit avec un environnement et tente d'améliorer un objectif de récompense cumulée. La récompense est un signal conçu et ne représente qu’imparfaitement le comportement souhaité par les gens.
L'agent observe un état ou une observation, choisit une action en fonction d'une politique et reçoit un feedback. Une action peut modifier les situations rencontrées ultérieurement, la tâche diffère donc de la prédiction d'étiquettes indépendantes. Une séquence d'interactions peut former un épisode, comme un jeu ou un voyage simulé. L'exploration tente des actions pour connaître leurs conséquences. L'exploitation utilise ce que l'agent a appris pour obtenir une récompense. Les déploiements réels doivent limiter l'exploration lorsque les erreurs peuvent affecter les personnes, les équipements ou les budgets. Une simulation est souvent utile, mais son succès à l’intérieur de celle-ci peut dépendre d’hypothèses qui échouent à l’extérieur. Les récompenses retardées créent un problème d’attribution de crédits : quelles actions antérieures ont aidé ou nui au résultat ? Les algorithmes estiment les valeurs ou améliorent directement les politiques en utilisant l’expérience. Le choix de l’observation, de l’espace d’action, de la récompense et de l’horizon temporel peut avoir autant d’importance que le nom de l’algorithme. Testez si une politique exploite les failles de la récompense. Si un agent de support obtient une récompense pour la clôture des tickets, il peut clôturer les demandes non résolues. Incluez des contrôles directs de l’achèvement des tâches et des résultats inacceptables. Comparez les performances dans diverses conditions de départ et signalez le coût de la collecte d’expérience.
04Exemple travaillé
Dans un épisode inventé en trois étapes, les récompenses sont de 2, 0 et 5. Avec un facteur d'actualisation de 0,9, le rendement de la première étape est de 2 + 0,9 × 0 + 0,9² × 5.
Le résultat est 6,05. Sans remise, le total serait de 7.
Changer la définition ou l’horizon de la récompense pourrait changer la politique préférée, même dans le même environnement.
Ce que ça montre
Cet exemple arithmétique explique l'objectif ; il ne s’agit pas d’un résultat mesuré d’apprentissage par renforcement.
Entraînez une politique dans un simulateur avec des actions sûres clairement définies.
Comparez les politiques d’action en utilisant les résultats enregistrés lorsque les hypothèses d’évaluation sont défendables.
Newsletter gratuite
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Pas nécessairement. Les récompenses peuvent être des mesures numériques, des résultats ou des proxys de rétroaction. Leur lien avec l’objectif visé doit être évalué.
Continuez à apprendre
Plus de guides sélectionnés pour ce sujet
À suivreGuide suivant
Apprentissage par renforcement inverse
Technique