Que s'est-il passé
Une équipe de recherche de Carnegie Mellon, du MIT et de Cornell a publié le 6 août deux études de cas randomisées testant si de courtes conversations sur l'IA pouvaient contrer les croyances complotistes alors que les faits sur des événements majeurs étaient encore en train d'émerger.
Les chercheurs ont analysé 472 adultes américains qui ont exprimé des opinions conspiratrices après la tentative d’assassinat de Donald Trump en juillet 2024 et 1 035 après l’assassinat de Charlie Kirk en septembre 2025. Les participants ont été assignés au hasard à un dialogue de démystification sur mesure, à une conversation sans rapport avec l'IA ou à une liste statique de faits contemporains.
Les groupes de dialogue ont réalisé au moins cinq échanges avec Gemini 1.5 Pro dans la première expérience et Gemini 2.5 Pro dans la seconde. Les deux modèles ont reçu une base de faits organisée séparant les informations confirmées, les affirmations démystifiées et les questions non résolues ; le deuxième modèle pourrait également effectuer des recherches sur le Web uniquement pour vérifier des informations factuelles.
Sur une mesure de 0 à 100 de la croyance dans la théorie énoncée par chaque participant, les dialogues personnalisés ont produit des réductions de 6,95 points par rapport au contrôle de discussion sans rapport dans la première expérience et de 7,56 points dans la seconde. Les différences par rapport à la fiche statique étaient de 5,60 et 6,56 points. Le document rapporte des effets standardisés d’environ 0,32 à 0,38 pour ces comparaisons.
The two case studies were designed around moments when the factual record was still developing. The first followed the July 2024 attempt to assassinate Donald Trump; the second followed the September 2025 assassination of Charlie Kirk. Participants were screened for conspiratorial or uncertain interpretations, then assigned to a conversation that addressed their own stated theory, an unrelated AI chat, or a static contemporaneous fact sheet. The second study was preregistered, while the first was not, so the replication is informative but not equivalent to two independent confirmatory trials.
Détails de la source: Costello and colleagues' research paper on arXiv ↗
Pourquoi c'est important
Le résultat suggère qu’un système conversationnel peut faire plus que répéter une correction : il peut adapter les faits, les questions et l’incertitude à la raison spécifique qu’une personne donne pour justifier sa croyance.
Cette distinction est utile lors d’événements à évolution rapide, lorsque les preuves vérifiées sont incomplètes et qu’une fiche d’information générique peut ne pas répondre à l’affirmation qu’une personne trouve réellement convaincante. L'analyse stratégique du document a révélé que le modèle s'appuyait davantage sur des sources crédibles, des questions ouvertes et de la prudence lorsque l'on savait peu de choses, puis utilisait des preuves plus directes lorsque le deuxième événement disposait d'un dossier factuel plus important.
Les auteurs rapportent également des preuves limitées de retombées ultérieures. Deux mois après la première expérience, les participants assignés au dialogue étaient moins susceptibles que les témoins regroupés d'approuver deux interprétations conspiratrices d'un événement ultérieur. Lors du deuxième suivi, l'attribution directe d'un traitement n'a pas réduit de manière significative les croyances concernant une fusillade ultérieure, bien qu'une analyse de persistance préenregistrée distincte et une mesure plus large du complot suggèrent des effets de rémanence plus faibles.
The design shows why the interaction may outperform a static correction without proving that persuasion is always desirable. Gemini 1.5 Pro in the first study and Gemini 2.5 Pro in the second received researcher-curated fact bases separating confirmed information, debunked claims, and unresolved questions. The model could ask about the participant's specific reasoning and choose whether to answer directly, cite credible evidence, or preserve uncertainty. That adaptability is useful for education, but it also gives the system discretion over which claims to challenge and which sources to foreground.
L’étude ne justifie pas le déploiement automatique de robots persuasifs dans les conversations publiques. Un système chargé de changer les croyances détient un pouvoir inhabituel, et les auteurs notent que des techniques similaires peuvent également accroître la croyance en de fausses affirmations. Tout service réel nécessiterait une paternité transparente, une base événementielle fiable, des garanties contre le ciblage politique et des tests indépendants d’exactitude et d’effets involontaires.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Que regarder ensuite
Surveillez l’examen par les pairs, la réplication au-delà de deux crises politiques américaines et les preuves de terrain montrant si les gens choisissent d’utiliser un tel outil sans être recrutés dans une étude.
Il s'agit d'une nouvelle prépublication construite autour de deux études de cas. La première expérience n'était pas préenregistrée, la seconde l'était, et les deux mesuraient les croyances autodéclarées immédiatement après une courte interaction en ligne plutôt que le comportement de partage, le vote ou la confiance à long terme dans le monde réel.
Les échantillons analysés comprenaient uniquement des participants dont les réponses ouvertes étaient classées comme conspiratrices ou incertaines par GPT-4o, bien que les auteurs rapportent des modèles similaires selon d'autres règles de . Les deux études ont recruté des adultes américains via CloudResearch, de sorte que les résultats ne peuvent pas être transférés à d'autres pays, langues, événements ou populations.
Les modèles ne reposaient pas sur des connaissances spontanées : les chercheurs fournissaient des bases factuelles soigneusement assemblées et des instructions de persuasion explicites. Les travaux futurs devraient tester qui maintient ces faits sous la pression des délais, comment les erreurs sont corrigées, si les points de vue opposés sont traités de manière cohérente et quand un système doit préserver l'incertitude au lieu d'essayer de persuader.
There is also a measurement distinction between changing a stated belief and improving a person's understanding. The outcomes were self-reported ratings collected after short online conversations, not observed sharing behavior, source checking, voting, or decisions made during a live crisis. The paper's follow-ups provide early evidence about persistence, but the mixed results mean a later study should pre-register long-term outcomes, track attrition, and test whether participants can explain the evidence themselves rather than simply repeating the model's conclusion.
Replication should vary the source of the factual record as well as the population. These experiments supplied researchers' own fact bases and recruited US adults through CloudResearch, which makes the setup unusually controlled but leaves open questions about multilingual events, lower-connectivity settings, and crises in which official information is delayed or disputed. A responsible field trial would make the model's authorship visible, let participants decline the intervention, log which evidence was shown, and use independent adjudicators to check whether the dialogue corrected a misconception without introducing a new one. It should measure trust, emotional response, and willingness to share claims alongside belief scores.