Vad hände
En forskargrupp från Carnegie Mellon, MIT och Cornell publicerade två randomiserade fallstudier den 6 augusti som testade om korta AI-konversationer kunde motverka konspirationstroningar medan fakta om stora händelser fortfarande dyker upp.
Forskarna analyserade 472 amerikanska vuxna som uttryckte konspiratoriska åsikter efter försöket att mörda Donald Trump i juli 2024 och 1 035 efter mordet på Charlie Kirk i september 2025. Deltagarna tilldelades slumpmässigt en skräddarsydd debunking-dialog, en icke-relaterad AI-konversation eller en statisk lista med samtida fakta.
Dialoggrupperna genomförde minst fem utbyten med Gemini 1.5 Pro i det första experimentet och Gemini 2.5 Pro i det andra. Båda modellerna fick en kurerad faktabas som skilde åt bekräftad information, avfärdade påståenden och olösta frågor; den andra modellen kunde också söka på webben endast för att verifiera faktainformation.
På ett 0-till-100-mått på tro på varje deltagares egen angivna teori, gav de skräddarsydda dialogerna minskningar på 6,95 poäng i förhållande till den icke-relaterade chattkontrollen i det första experimentet och 7,56 poäng i det andra. Skillnaderna från det statiska faktabladet var 5,60 och 6,56 poäng. Uppsatsen rapporterar standardiserade effekter på ungefär 0,32 till 0,38 för dessa jämförelser.
The two case studies were designed around moments when the factual record was still developing. The first followed the July 2024 attempt to assassinate Donald Trump; the second followed the September 2025 assassination of Charlie Kirk. Participants were screened for conspiratorial or uncertain interpretations, then assigned to a conversation that addressed their own stated theory, an unrelated AI chat, or a static contemporaneous fact sheet. The second study was preregistered, while the first was not, so the replication is informative but not equivalent to two independent confirmatory trials.
Källinformation: Costello and colleagues' research paper on arXiv ↗
Varför det spelar roll
Resultatet tyder på att ett konversationssystem kan göra mer än att upprepa en korrigering: det kan anpassa fakta, frågor och osäkerhet till det specifika skäl en person ger för en tro.
Den distinktionen är användbar under händelser som rör sig snabbt, när verifierade bevis är ofullständiga och ett allmänt faktablad kanske inte tar upp påståendet som en person faktiskt finner övertygande. Tidningens strategianalys fann att modellen lutade sig mer mot trovärdiga källor, öppna frågor och försiktighet när lite var känt, och använde sedan mer direkt bevis när den andra händelsen hade ett större faktaregister.
Författarna rapporterar också begränsade bevis för senare spridning. Två månader efter det första experimentet var deltagare som tilldelats dialogen mindre benägna än poolade kontroller att stödja två konspiratoriska tolkningar av en efterföljande händelse. I den andra uppföljningen minskade inte direkt behandlingsuppdrag nämnvärt troen på en senare skjutning, även om en separat förregistrerad persistensanalys och en bredare konspirationsåtgärd antydde mindre överföringseffekter.
The design shows why the interaction may outperform a static correction without proving that persuasion is always desirable. Gemini 1.5 Pro in the first study and Gemini 2.5 Pro in the second received researcher-curated fact bases separating confirmed information, debunked claims, and unresolved questions. The model could ask about the participant's specific reasoning and choose whether to answer directly, cite credible evidence, or preserve uncertainty. That adaptability is useful for education, but it also gives the system discretion over which claims to challenge and which sources to foreground.
Studien motiverar inte att automatiskt distribuera övertygande bots i offentliga konversationer. Ett system som instrueras att ändra övertygelser har ovanlig makt, och författarna noterar att liknande tekniker också kan öka tron på falska påståenden. Alla verkliga tjänster skulle behöva transparent författarskap, tillförlitlig jordning av händelser, skydd mot politisk inriktning och oberoende tester av noggrannhet och oavsiktliga effekter.
Interaktiv mekanism: hur det faktiskt fungerar
Utforska den underliggande tekniken bakom denna utveckling interaktivt.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Vad du ska titta på härnäst
Håll utkik efter peer review, replikering bortom två amerikanska politiska kriser och fältbevis som visar om människor väljer att använda ett sådant verktyg utan att bli rekryterade till en studie.
Detta är ett nytt preprint byggt kring två fallstudier. Det första experimentet var inte förregistrerat, det andra var, och båda mätte självrapporterade övertygelser omedelbart efter en kort onlineinteraktion snarare än verkliga delningsbeteende, röstning eller långsiktigt förtroende.
De analyserade proverna inkluderade endast deltagare vars öppna svar klassificerades som konspiratoriska eller osäkra av GPT-4o, även om författarna rapporterar liknande mönster under alternativa klassificeringsregler. Båda studierna rekryterade amerikanska vuxna genom CloudResearch, så resultaten kanske inte överförs till andra länder, språk, evenemang eller befolkningar.
Modellerna förlitade sig inte på kunskap utan hjälp: forskare tillhandahöll noggrant sammanställda faktabaser och tydliga övertalningsinstruktioner. Framtida arbete bör testa vem som håller dessa fakta under deadlinepress, hur fel korrigeras, om motsatta synpunkter behandlas konsekvent och när ett system ska bevara osäkerhet istället för att försöka övertala.
There is also a measurement distinction between changing a stated belief and improving a person's understanding. The outcomes were self-reported ratings collected after short online conversations, not observed sharing behavior, source checking, voting, or decisions made during a live crisis. The paper's follow-ups provide early evidence about persistence, but the mixed results mean a later study should pre-register long-term outcomes, track attrition, and test whether participants can explain the evidence themselves rather than simply repeating the model's conclusion.
Replication should vary the source of the factual record as well as the population. These experiments supplied researchers' own fact bases and recruited US adults through CloudResearch, which makes the setup unusually controlled but leaves open questions about multilingual events, lower-connectivity settings, and crises in which official information is delayed or disputed. A responsible field trial would make the model's authorship visible, let participants decline the intervention, log which evidence was shown, and use independent adjudicators to check whether the dialogue corrected a misconception without introducing a new one. It should measure trust, emotional response, and willingness to share claims alongside belief scores.