GUIDE Technique

Apprentissage par renforcement

L'apprentissage par renforcement entraîne un agent à choisir des actions en utilisant des commentaires sur leurs conséquences.

Écoutez ce guideNarré par l'IA · ~2 min

Sur cette page2 minutes de lecture
  1. Aperçu
  2. Points clés à retenir
  3. Plongée profonde
  4. Calculer un rendement actualisé
  5. Mise en œuvre dans le monde réel
  6. Le mettre en pratique
  7. Sources et lectures complémentaires
  8. Continuez à explorer
  9. Questions fréquemment posées

Aperçu

L'agent interagit avec un environnement et tente d'améliorer un objectif de récompense cumulée. La récompense est un signal conçu et ne représente qu’imparfaitement le comportement souhaité par les gens.

Points clés à retenir

  1. Les actions affectent les observations futures.
  2. La conception des récompenses peut créer des incitations involontaires.
  3. Limitez l’exploration et les tests au-delà d’un seul environnement.

Plongée profonde

L'agent observe un état ou une observation, choisit une action en fonction d'une politique et reçoit un feedback. Une action peut modifier les situations rencontrées ultérieurement, la tâche diffère donc de la prédiction d'étiquettes indépendantes. Une séquence d'interactions peut former un épisode, comme un jeu ou un voyage simulé. L'exploration tente des actions pour connaître leurs conséquences. L'exploitation utilise ce que l'agent a appris pour obtenir une récompense. Les déploiements réels doivent limiter l'exploration lorsque les erreurs peuvent affecter les personnes, les équipements ou les budgets. Une simulation est souvent utile, mais son succès à l’intérieur de celle-ci peut dépendre d’hypothèses qui échouent à l’extérieur. Les récompenses retardées créent un problème d’attribution de crédits : quelles actions antérieures ont aidé ou nui au résultat ? Les algorithmes estiment les valeurs ou améliorent directement les politiques en utilisant l’expérience. Le choix de l’observation, de l’espace d’action, de la récompense et de l’horizon temporel peut avoir autant d’importance que le nom de l’algorithme. Testez si une politique exploite les failles de la récompense. Si un agent de support obtient une récompense pour la clôture des tickets, il peut clôturer les demandes non résolues. Incluez des contrôles directs de l’achèvement des tâches et des résultats inacceptables. Comparez les performances dans diverses conditions de départ et signalez le coût de la collecte d’expérience.

04Exemple travaillé

Calculer un rendement actualisé

  1. Dans un épisode inventé en trois étapes, les récompenses sont de 2, 0 et 5. Avec un facteur d'actualisation de 0,9, le rendement de la première étape est de 2 + 0,9 × 0 + 0,9² × 5.

  2. Le résultat est 6,05. Sans remise, le total serait de 7.

  3. Changer la définition ou l’horizon de la récompense pourrait changer la politique préférée, même dans le même environnement.

Ce que ça montre

Cet exemple arithmétique explique l'objectif ; il ne s’agit pas d’un résultat mesuré d’apprentissage par renforcement.

Mise en œuvre dans le monde réel

Entraînez une politique dans un simulateur avec des actions sûres clairement définies.

Comparez les politiques d’action en utilisant les résultats enregistrés lorsque les hypothèses d’évaluation sont défendables.

Le mettre en pratique

Pourquoi c'est important

  • Coût et budget. Les décisions en matière d'architecture déterminent les performances et les coûts d'exploitation pendant des années.
  • Décisions plus claires. La formation technique aide les équipes à choisir la bonne pile, pas seulement la plus récente.
  • Contrôle qualité. De meilleurs choix d’ingénierie réduisent les incidents de fiabilité en production.

Attention à

  • L’optimisation d’un benchmark peut masquer des faiblesses plus larges du système.
  • Les coûts d’infrastructure et de maintenance sont souvent sous-estimés.
  • Les lacunes en matière de sécurité et d’observabilité peuvent se creuser à mesure que les systèmes deviennent plus complexes.

Prochaines étapes

  1. Définissez les objectifs de latence, de qualité et de coût avant la mise en œuvre.
  2. Benchmark dans des conditions de charge et de données réalistes.
  3. Surveillance des instruments pour détecter les erreurs, la dérive et l'impact sur l'utilisateur.
  4. Préparez les chemins de restauration et de réponse aux incidents avant la mise à l’échelle.

Sources et lectures complémentaires

  1. MIT Press; Richard S. Sutton and Andrew G. BartoApprentissage par renforcement : une introduction

Continuez à explorer

Newsletter gratuite

Recevez le briefing quotidien sur l'IA

Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.

Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.

Testez-vous

Take the Reinforcement Learning quiz

Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.

Démarrer le quiz

Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don

Questions fréquemment posées

La récompense est-elle la même chose que l’approbation humaine ?

Pas nécessairement. Les récompenses peuvent être des mesures numériques, des résultats ou des proxys de rétroaction. Leur lien avec l’objectif visé doit être évalué.