Wat is er gebeurd
Een onderzoeksteam van Carnegie Mellon, MIT en Cornell plaatste op 6 augustus twee gerandomiseerde casestudies waarin werd getest of korte AI-gesprekken complotovertuigingen konden weerleggen terwijl feiten over grote gebeurtenissen nog steeds aan het licht kwamen.
De onderzoekers analyseerden 472 Amerikaanse volwassenen die samenzweerderige standpunten uitten na de poging om Donald Trump in juli 2024 te vermoorden, en 1.035 na de moord op Charlie Kirk in september 2025. Deelnemers werden willekeurig toegewezen aan een op maat gemaakte ontmaskeringsdialoog, een niet-gerelateerd AI-gesprek of een statische lijst met actuele feiten.
De dialooggroepen voltooiden ten minste vijf uitwisselingen met Gemini 1.5 Pro in het eerste experiment en Gemini 2.5 Pro in het tweede. Beide modellen kregen een samengestelde feitenbasis die bevestigde informatie, ontkrachte beweringen en onopgeloste vragen scheidde; het tweede model zou ook alleen op internet kunnen zoeken om feitelijke informatie te verifiëren.
Op basis van een maatstaf van 0 tot 100 voor het geloof in de eigen theorie van elke deelnemer, leverden de op maat gemaakte dialogen reducties op van 6,95 punten ten opzichte van de niet-gerelateerde chatcontrole in het eerste experiment en 7,56 punten in het tweede. Het verschil met de statische factsheet bedroeg 5,60 en 6,56 punten. Het artikel rapporteert gestandaardiseerde effecten van ongeveer 0,32 tot 0,38 voor deze vergelijkingen.
De twee casestudies zijn ontworpen rond momenten waarop de feitelijke gegevens nog in ontwikkeling waren. De eerste volgde op de poging van juli 2024 om Donald Trump te vermoorden; de tweede volgde op de moord op Charlie Kirk in september 2025. Deelnemers werden gescreend op samenzweerderige of onzekere interpretaties en vervolgens toegewezen aan een gesprek waarin hun eigen theorie aan de orde kwam, een niet-gerelateerde AI-chat of een statische, gelijktijdige factsheet. Het tweede onderzoek was vooraf geregistreerd, het eerste niet. De replicatie is dus informatief maar niet gelijkwaardig aan twee onafhankelijke bevestigende onderzoeken.
Brongegevens: Costello and colleagues' research paper on arXiv ↗
Waarom het ertoe doet
Het resultaat suggereert dat een gesprekssysteem meer kan doen dan een correctie herhalen: het kan feiten, vragen en onzekerheid aanpassen aan de specifieke reden die iemand voor een overtuiging geeft.
Dat onderscheid is nuttig bij snel evoluerende gebeurtenissen, wanneer geverifieerd bewijs onvolledig is en een generieke factsheet mogelijk niet ingaat op de bewering die iemand daadwerkelijk overtuigend vindt. Uit de strategieanalyse van het artikel bleek dat het model meer steunde op geloofwaardige bronnen, open vragen en voorzichtigheid wanneer er weinig bekend was, en vervolgens meer direct bewijs gebruikte toen de tweede gebeurtenis een groter feitelijk record had.
De auteurs rapporteren ook beperkt bewijs van latere overloop. Twee maanden na het eerste experiment hadden deelnemers die aan de dialoog waren toegewezen minder kans dan de gepoolde controlegroep om twee samenzweerderige interpretaties van een volgende gebeurtenis te onderschrijven. In de tweede follow-up verminderde de directe behandelingstoewijzing de overtuigingen over een latere schietpartij niet significant, hoewel een afzonderlijke, vooraf geregistreerde persistentieanalyse en een bredere samenzweringsmaatstaf kleinere overdrachtseffecten suggereerden.
Het ontwerp laat zien waarom de interactie beter presteert dan een statische correctie, zonder te bewijzen dat overreding altijd wenselijk is. Gemini 1.5 Pro in het eerste onderzoek en Gemini 2.5 Pro in het tweede ontvingen door onderzoekers samengestelde feitenbases die bevestigde informatie, ontkrachte beweringen en onopgeloste vragen van elkaar scheidden. Het model zou kunnen vragen naar de specifieke redenering van de deelnemer en kunnen kiezen of hij direct antwoord wil geven, geloofwaardig bewijs wil aanhalen of de onzekerheid wil behouden. Dat aanpassingsvermogen is nuttig voor het onderwijs, maar het geeft het systeem ook de vrijheid om te bepalen welke claims in twijfel worden getrokken en welke bronnen op de voorgrond worden geplaatst.
Het onderzoek rechtvaardigt niet het automatisch inzetten van overtuigende bots in openbare gesprekken. Een systeem dat is geïnstrueerd om overtuigingen te veranderen heeft een ongebruikelijke kracht, en de auteurs merken op dat soortgelijke technieken ook het geloof in valse beweringen kunnen vergroten. Elke echte dienst zou transparant auteurschap nodig hebben, betrouwbare onderbouwing van gebeurtenissen, waarborgen tegen politieke targeting en onafhankelijke tests van nauwkeurigheid en onbedoelde effecten.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Wat je nu moet bekijken
Kijk uit naar peer review, replicatie na twee Amerikaanse politieke crises, en veldbewijs waaruit blijkt of mensen ervoor kiezen een dergelijk instrument te gebruiken zonder te worden gerekruteerd voor een onderzoek.
Dit is een nieuwe preprint opgebouwd rond twee casestudies. Het eerste experiment was niet vooraf geregistreerd, het tweede wel, en beide maten zelfgerapporteerde overtuigingen onmiddellijk na een korte online interactie in plaats van deelgedrag in de echte wereld, stemmen of vertrouwen op de lange termijn.
De geanalyseerde monsters omvatten alleen deelnemers wier open antwoorden door GPT-4o als samenzweerderig of onzeker werden geclassificeerd, hoewel de auteurs vergelijkbare patronen rapporteren onder alternatieve classificatieregels. Voor beide onderzoeken zijn Amerikaanse volwassenen gerekruteerd via CloudResearch, dus de bevindingen worden mogelijk niet overgedragen naar andere landen, talen, evenementen of populaties.
De modellen waren niet afhankelijk van kennis zonder hulp: onderzoekers leverden zorgvuldig samengestelde feitenbases en expliciete overtuigingsinstructies. Toekomstig werk zou moeten testen wie deze feiten onder druk van deadlines handhaaft, hoe fouten worden gecorrigeerd, of tegengestelde standpunten consistent worden behandeld, en wanneer een systeem onzekerheid moet behouden in plaats van te proberen te overtuigen.
Er is ook een meetonderscheid tussen het veranderen van een uitgesproken overtuiging en het verbeteren van iemands begrip. De uitkomsten waren zelfgerapporteerde beoordelingen verzameld na korte online gesprekken, niet-geobserveerd deelgedrag, broncontrole, stemmen of beslissingen genomen tijdens een live crisis. De follow-ups van het artikel leveren vroeg bewijs over persistentie, maar de gemengde resultaten betekenen dat een later onderzoek de langetermijnresultaten vooraf moet registreren, het verloop moet volgen en moet testen of deelnemers het bewijs zelf kunnen verklaren in plaats van simpelweg de conclusie van het model te herhalen.
Replicatie moet zowel de bron van het feitelijke record als de populatie variëren. Deze experimenten leverden de eigen feitenbases van onderzoekers op en rekruteerden Amerikaanse volwassenen via CloudResearch, wat de opzet ongewoon gecontroleerd maakt, maar open vragen laat over meertalige evenementen, instellingen met lagere connectiviteit en crises waarin officiële informatie wordt uitgesteld of betwist. Een verantwoorde veldproef zou het auteurschap van het model zichtbaar maken, deelnemers de kans geven de interventie af te wijzen, te registreren welk bewijsmateriaal werd getoond, en onafhankelijke juryleden gebruiken om te controleren of de dialoog een misvatting corrigeerde zonder een nieuwe te introduceren. Het zou naast geloofsscores ook het vertrouwen, de emotionele respons en de bereidheid om claims te delen moeten meten.