Agents IA

Une boucle d'agent typique observe l'état actuel, sélectionne une action, reçoit un résultat et décide de continuer ou non. Le modèle peut participer à la planification ou à la sélection des actions, tandis qu'un logiciel ordinaire applique les autorisations, les budgets et les contrats d'outils. Définir les conditions d'arrêt avant exécution. Une tâche peut être terminée, bloquée, annulée ou seulement partiellement réalisée. Des tentatives répétées sans nouvelles preuves peuvent gaspiller des ressources ou répéter des effets secondaires nocifs. Limitez le nombre d’actions, le temps écoulé et les dépenses, le cas échéant. Le contenu externe peut contenir des instructions qui entrent en conflit avec l’objectif de l’utilisateur. Traitez les pages, les messages et les réponses des outils en fonction de leur niveau de confiance. Un document décrivant une action n'autorise pas son exécution. Évaluez les résultats réels. Pour un agent d'édition de fichiers, inspectez les fichiers finaux et exécutez les vérifications appropriées. Pour un workflow de compte, vérifiez le compte et l'état prévus. Enregistrez suffisamment de preuves pour expliquer ce qui a changé et ce qui reste incertain. Une plus grande autonomie accroît l’importance de limites claires et de procédures de rétablissement.