Was ist passiert?
Ein Forschungsteam von Carnegie Mellon, MIT und Cornell veröffentlichte am 6. August zwei randomisierte Fallstudien, in denen getestet wurde, ob kurze KI-Gespräche Verschwörungsvorstellungen entgegenwirken könnten, während Fakten über Großereignisse noch ans Licht kamen.
Die Forscher analysierten 472 Erwachsene in den USA, die nach dem Attentatsversuch auf Donald Trump im Juli 2024 verschwörerische Ansichten äußerten, und 1.035 nach der Ermordung von Charlie Kirk im September 2025. Die Teilnehmer wurden nach dem Zufallsprinzip einem maßgeschneiderten Entlarvungsdialog, einem unabhängigen KI-Gespräch oder einer statischen Liste zeitgenössischer Fakten zugewiesen.
Die Dialoggruppen führten mindestens fünf Austausche mit Gemini 1.5 Pro im ersten Experiment und Gemini 2.5 Pro im zweiten Experiment durch. Beide Modelle erhielten eine kuratierte Faktenbasis, die bestätigte Informationen, entlarvte Behauptungen und ungelöste Fragen trennte; Das zweite Modell könnte das Internet auch nur durchsuchen, um sachliche Informationen zu überprüfen.
Auf einer 0-zu-100-Messung des Glaubens an die von jedem Teilnehmer selbst dargelegte Theorie führten die maßgeschneiderten Dialoge im ersten Experiment zu Reduzierungen von 6,95 Punkten im Vergleich zur nicht verwandten Chat-Kontrolle und von 7,56 Punkten im zweiten Experiment. Die Abweichungen zum statischen Merkblatt betrugen 5,60 bzw. 6,56 Punkte. In der Arbeit werden für diese Vergleiche standardisierte Effekte von etwa 0,32 bis 0,38 angegeben.
Lesen Sie die Primärquelle: Costello and colleagues' research paper on arXiv ↗
Warum es wichtig ist
Das Ergebnis legt nahe, dass ein Konversationssystem mehr kann, als eine Korrektur zu wiederholen: Es kann Fakten, Fragen und Unsicherheit an den spezifischen Grund anpassen, den eine Person für eine Überzeugung angibt.
Diese Unterscheidung ist bei schnell ablaufenden Ereignissen nützlich, wenn überprüfte Beweise unvollständig sind und ein allgemeines Faktenblatt möglicherweise nicht auf die Behauptung eingeht, die eine Person tatsächlich überzeugend findet. Die Strategieanalyse des Papiers ergab, dass sich das Modell mehr auf glaubwürdige Quellen, offene Fragen und Vorsicht stützte, wenn wenig bekannt war, und dann direktere Beweise verwendete, wenn das zweite Ereignis einen größeren Sachverhalt aufwies.
Die Autoren berichten auch über begrenzte Hinweise auf ein späteres Spillover. Zwei Monate nach dem ersten Experiment war die Wahrscheinlichkeit, dass die dem Dialog zugeteilten Teilnehmer zwei verschwörerische Interpretationen eines nachfolgenden Ereignisses befürworteten, geringer als bei den gepoolten Kontrollpersonen. In der zweiten Nachuntersuchung führte die direkte Behandlungszuweisung nicht zu einer signifikanten Verringerung der Überzeugungen hinsichtlich einer späteren Schießerei, obwohl eine separate vorab registrierte Persistenzanalyse und eine umfassendere Verschwörungsmessung auf geringere Übertragungseffekte hindeuteten.
Die Studie rechtfertigt nicht den automatischen Einsatz überzeugender Bots in öffentlichen Gesprächen. Ein System, das dazu dient, Überzeugungen zu ändern, birgt eine ungewöhnliche Macht, und die Autoren weisen darauf hin, dass ähnliche Techniken auch den Glauben an falsche Behauptungen verstärken können. Jeder echte Dienst bräuchte eine transparente Urheberschaft, eine verlässliche Grundlage für die Veranstaltung, Schutzmaßnahmen gegen politische Angriffe und unabhängige Tests auf Genauigkeit und unbeabsichtigte Auswirkungen.
Was Sie als nächstes sehen sollten
Achten Sie auf Peer-Reviews, Replikation über zwei politische Krisen in den USA hinaus und Feldbeweise, die zeigen, ob Menschen sich für die Nutzung eines solchen Tools entscheiden, ohne für eine Studie rekrutiert zu werden.
Dies ist ein neuer Vorabdruck, der auf zwei Fallstudien basiert. Das erste Experiment war nicht vorab registriert, das zweite schon, und beide maßen selbstberichtete Überzeugungen unmittelbar nach einer kurzen Online-Interaktion und nicht das Teilenverhalten in der realen Welt, Abstimmungen oder langfristiges Vertrauen.
Die analysierten Stichproben umfassten nur Teilnehmer, deren offene Antworten von GPT-4o als verschwörerisch oder unsicher eingestuft wurden, obwohl die Autoren ähnliche Muster unter alternativen Klassifizierungsregeln berichten. In beiden Studien wurden US-amerikanische Erwachsene über CloudResearch rekrutiert, sodass die Ergebnisse möglicherweise nicht auf andere Länder, Sprachen, Ereignisse oder Bevölkerungsgruppen übertragen werden können.
Die Modelle stützten sich nicht auf Wissen ohne fremde Hilfe: Die Forscher lieferten sorgfältig zusammengestellte Faktengrundlagen und explizite Überzeugungsanweisungen. Zukünftige Arbeiten sollten prüfen, wer diese Fakten unter Termindruck aufrechterhält, wie Fehler korrigiert werden, ob gegensätzliche Standpunkte konsequent behandelt werden und wann ein System Unsicherheit wahren sollte, anstatt zu versuchen, zu überzeugen.
