Que s'est-il passé
La BBC rapporte que les gens utilisent des chatbots IA pour rédiger des plaintes, des appels et des demandes d'accès à l'information auprès des organismes publics britanniques. Les documents qui en résultent peuvent s’étendre sur des dizaines de pages, citer la législation ou la jurisprudence de manière inexacte et nécessiter des éclaircissements supplémentaires ou un examen juridique. Les conseils municipaux, les écoles et les équipes d'information ont déclaré à la BBC que cette augmentation crée une charge de travail cachée importante.
La BBC rapporte que les chatbots IA sont utilisés pour rédiger des plaintes auprès des écoles, des conseils locaux et d'autres organismes publics, ainsi que pour faire appel contre des amendes de stationnement et des décisions en matière d'avantages. Le rapport indique que les documents occupant autrefois une seule feuille A4 peuvent contenir 20 pages ou plus. Deborah Evans, directrice générale de Lawyers in Local Government, a déclaré à la BBC que certaines plaintes concernant des questions telles que des poubelles non collectées s'étendaient sur entre 19 et 27 pages, y compris des références à la jurisprudence et aux lois du Parlement. Il s’agit d’observations rapportées et non de mesures vérifiées de manière indépendante.
Le changement signalé n’est pas simplement une augmentation du nombre de mots. La BBC affirme que les organismes publics sont confrontés à des plaintes contenant des arguments complexes, des affirmations incorrectes et des lois mal citées. Evans a déclaré à la BBC que les gestionnaires des plaintes pourraient devoir consulter des avocats, ce qui augmenterait les coûts des conseils et ralentirait les réponses. Le médiateur du gouvernement local et des services sociaux a déclaré qu’il avait constaté une utilisation accrue de l’IA dans les contestations judiciaires de ses décisions et que l’IA devrait être utilisée avec discrétion.
Les écoles signalent un problème similaire. Pepe Di'Iasio, secrétaire général de l'Association des dirigeants d'écoles et de collèges, a déclaré à la BBC que les plaintes augmentaient pour plusieurs raisons et qu'AI ajoutait aux efforts nécessaires pour les traiter. Il a déclaré que les écoles voyaient les parents utiliser l’IA pour générer de multiples et nombreuses plaintes. Le rapport n’établit pas dans quelle mesure cette augmentation est due à l’IA plutôt qu’à des changements plus larges dans le volume des plaintes, l’accès aux services publics ou le comportement des parents.
La BBC rapporte également une augmentation des demandes d’accès à l’information assistées par l’IA. Le Bureau du commissaire à l'information a déclaré en mai que les équipes FOI avaient été informées de volumes plus élevés et d'une plus grande complexité, y compris des demandes citant mal la législation ou nécessitant des éclaircissements importants. Lynn Wyeth, de l'Association nationale des responsables de la protection des données, a décrit une charge de travail cachée impliquant une correspondance plus longue, des exercices de clarification et des appels complexes. La source ne fournit aucun décompte national des plaintes ou demandes assistées par l’IA et ne confirme pas de manière indépendante la proportion rédigée avec l’IA.
Le rapport présente des effets concurrents. Dawn Harverson, qui a déclaré à la BBC qu'elle avait du mal à écrire, a déclaré que l'IA avait fait une différence pratique dans sa représentation. D'autres personnes contactées par BBC Radio 5 Live ont décrit l'utilisation de l'IA pour réduire les longues plaintes en réponses plus courtes ou ont déclaré que les chatbots renforçaient souvent l'opinion d'un utilisateur plutôt que de contester la pertinence d'une plainte. Les reportages de la BBC décrivent donc un processus changeant dans la correspondance publique, mais ils ne montrent pas que les plaintes générées par l'IA sont uniformément frivoles, invalides ou inexactes.
Détails de la source: bbc.com ↗
Pourquoi c'est important
L’IA peut rendre les plaintes et les recours publics plus accessibles, en particulier pour les personnes qui ont des difficultés à écrire ou qui se sentent intimidées par les procédures formelles. Mais si les soumissions générées par l’IA sont beaucoup plus longues, répétitives ou juridiquement inexactes, les organismes publics peuvent avoir besoin de plus de temps et de personnel pour les traiter, ce qui pourrait ralentir les réponses et augmenter les coûts. Le rapport met en évidence une tension entre l’accès aux systèmes de responsabilisation et la capacité de ces systèmes à réagir équitablement.
Les plaintes assistées par l’IA peuvent réduire un véritable obstacle à la participation. Harverson a déclaré à la BBC que les personnes neurodivergentes, intimidées par l'écriture ou poussées vers les services par courrier électronique pourraient autrement éviter de se plaindre. En ce sens, l’IA peut fonctionner comme une aide à l’accessibilité et à la rédaction, aidant quelqu’un à expliquer un problème, à organiser des preuves ou à comprendre comment démarrer un processus formel. Le rapport ne donne aucune base permettant de conclure que les personnes qui utilisent l’IA sont moins en droit de se plaindre ou que les longues plaintes ne sont pas fondées.
Le coût institutionnel survient lorsque l’organisation destinataire doit traiter chaque soumission longue ou juridiquement encadrée comme nécessitant un examen détaillé. La BBC rapporte que les avocats du secteur public et les gestionnaires de plaintes voient des documents plus longs que ce que le problème sous-jacent semble exiger et qui peuvent contenir des références juridiques inexactes. Le personnel devra peut-être séparer les faits pertinents des affirmations générées, demander des éclaircissements et faire appel à des conseillers juridiques. La source ne quantifie pas le coût supplémentaire, le temps de traitement ou le taux d'erreur, mais les responsables cités qualifient la charge d'importante.
Il y a aussi une question d’équité. Si les organismes publics réagissent au volume de plaintes en limitant la durée des plaintes ou en exigeant des formulaires plus structurés, ils peuvent rendre les dossiers plus faciles à traiter mais plus difficiles à présenter pour certaines personnes. Evans a déclaré à la BBC que les conseils pourraient envisager de formuler des formulaires pour limiter la durée des plaintes, tandis que d'autres considèrent que de telles mesures pourraient potentiellement réduire la responsabilité. Un système efficace pour les cas courants pourrait néanmoins faire défaut à des personnes dont les situations sont compliquées, mal documentées ou difficiles à exprimer dans un format standard.
Le problème s’étend au-delà des plaintes individuelles et touche également le fonctionnement des systèmes de responsabilité publique. Les demandes et les appels en matière de FOI sont des mécanismes par lesquels les citoyens peuvent contrôler les autorités publiques. Si les demandes assistées par l'IA créent des retards, des erreurs ou davantage de plaintes, comme l'ICO l'a prévenu, cela pourrait se produire sans soutien pratique, le préjudice qui en résulterait pourrait affecter à la fois les demandeurs et les organismes publics. Dans le même temps, rejeter les candidatures parce qu’elles semblent assistées par l’IA risquerait de pénaliser les personnes qui utilisent un outil qui les a aidées à participer.
Le rapport de la BBC ne démontre pas de manière indépendante l’existence d’une crise à l’échelle nationale ni ne prouve que l’IA est la principale cause de l’augmentation du nombre de plaintes. Il présente les témoignages d'avocats du gouvernement local, d'un médiateur, de chefs d'établissement, d'un professionnel de la gouvernance de l'information et de membres du public. Les inconnues significatives incluent l'ampleur de la tendance, le nombre de soumissions contenant des erreurs matérielles, la question de savoir si les utilisateurs d'IA déposent plus de plaintes qu'auparavant et si les organismes publics peuvent gérer le travail supplémentaire grâce à de meilleurs processus plutôt que de simplement ajouter du personnel.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Que regarder ensuite
Les questions clés sont de savoir dans quelle mesure les soumissions assistées par l’IA sont répandues, si elles augmentent de manière mesurable les délais ou les coûts, et comment les organismes publics peuvent gérer le volume sans décourager les plaintes légitimes. Les développements futurs pourraient inclure des formulaires de soumission plus clairs, des conseils sur l’utilisation de l’IA dans les plaintes et les demandes d’informations, ainsi que des outils du secteur public pour résumer ou trier la correspondance. Toute réponse de ce type nécessitera des garde-fous pour éviter de négliger des cas complexes ou mal rédigés.
Les organismes publics peuvent répondre avec des formulaires structurés, des limites de mots ou de pages, des orientations plus claires et des demandes de résumés concis accompagnés de documents justificatifs. Ces mesures pourraient réduire les travaux de transformation évitables, mais leur conception sera importante. Les rédacteurs et les responsables devraient vérifier si les nouvelles procédures préservent des itinéraires alternatifs pour les personnes qui ont besoin d'aide, accepter les preuves qui ne peuvent pas être facilement compressées et fournir les raisons lorsqu'une soumission est renvoyée pour clarification.
Les prochaines preuves utiles seraient des données comparables provenant des conseils municipaux, des écoles, des services de médiation et des équipes FOI. Cela pourrait inclure le volume de plaintes et de demandes, la durée moyenne, le temps de traitement, les taux de révision juridique, les taux d’erreur et la part identifiée comme assistée par l’IA. La source ne contient aucun ensemble de données nationales de ce type. Sans cela, les allégations concernant une poussée générale devraient rester attribuées aux reportages de la BBC et aux organisations qu'elle a contactées plutôt que d'être traitées comme des totaux établis de manière indépendante.
L’utilisation de l’IA par le secteur public est un autre aspect non résolu du problème. Wyeth a déclaré à la BBC que les autorités avaient besoin d'une autorisation pour utiliser elles-mêmes l'IA afin de faire face à l'augmentation des demandes. Si les agences adoptent des outils de synthèse ou de tri, elles devront montrer comment fonctionne l'examen humain, comment les informations confidentielles sont traitées et comment les détails importants sont protégés contre l'omission. La source ne signale pas qu'une autorité spécifique ait déployé un tel système et ne fournit aucune preuve de l'exactitude des outils possibles.
Les groupes de responsabilisation et les organismes publics devront également faire la distinction entre assistance et substitution. L’IA peut aider une personne à traduire une expérience dans un langage formel, mais le rapport suggère que les chatbots peuvent également produire des soumissions élaborées sans vérifier si l’argument est proportionné ou correct. Des orientations pourraient encourager les utilisateurs à vérifier les références juridiques, à identifier le recours qu’ils recherchent et à éliminer les répétitions. De tels conseils porteraient sur la qualité sans considérer l’utilisation de l’IA elle-même comme une preuve de mauvaise foi.
Enfin, les responsables et les journalistes devraient surveiller si le débat s’oriente vers l’accès au contact humain. Un enseignant d’école primaire a déclaré à la BBC que le problème central pourrait être le déclin de la capacité de parler directement avec le personnel du service public plutôt que l’utilisation de l’IA. Cette observation ne constitue pas une explication vérifiée de la tendance, mais elle identifie un test pratique pour les politiques futures : si les organismes publics peuvent rendre les processus de plainte et d’information à la fois accessibles aux personnes utilisant l’IA et réactifs aux personnes qui ont besoin d’une conversation humaine.