Was ist passiert?
Ein Forschungsteam von Carnegie Mellon, MIT und Cornell veröffentlichte am 6. August zwei randomisierte Fallstudien, in denen getestet wurde, ob kurze KI-Gespräche Verschwörungsvorstellungen entgegenwirken könnten, während Fakten über Großereignisse noch ans Licht kamen.
Die Forscher analysierten 472 Erwachsene in den USA, die nach dem Attentatsversuch auf Donald Trump im Juli 2024 verschwörerische Ansichten äußerten, und 1.035 nach der Ermordung von Charlie Kirk im September 2025. Die Teilnehmer wurden nach dem Zufallsprinzip einem maßgeschneiderten Entlarvungsdialog, einem unabhängigen KI-Gespräch oder einer statischen Liste zeitgenössischer Fakten zugewiesen.
Die Dialoggruppen führten mindestens fünf Austausche mit Gemini 1.5 Pro im ersten Experiment und Gemini 2.5 Pro im zweiten Experiment durch. Beide Modelle erhielten eine kuratierte Faktenbasis, die bestätigte Informationen, entlarvte Behauptungen und ungelöste Fragen trennte; Das zweite Modell könnte das Internet auch nur durchsuchen, um sachliche Informationen zu überprüfen.
Auf einer 0-zu-100-Messung des Glaubens an die von jedem Teilnehmer selbst dargelegte Theorie führten die maßgeschneiderten Dialoge im ersten Experiment zu Reduzierungen von 6,95 Punkten im Vergleich zur nicht verwandten Chat-Kontrolle und von 7,56 Punkten im zweiten Experiment. Die Abweichungen zum statischen Merkblatt betrugen 5,60 bzw. 6,56 Punkte. In der Arbeit werden für diese Vergleiche standardisierte Effekte von etwa 0,32 bis 0,38 angegeben.
Die beiden Fallstudien wurden für Momente konzipiert, in denen sich die Sachlage noch in der Entwicklung befand. Der erste folgte dem Attentatsversuch auf Donald Trump im Juli 2024; Der zweite folgte auf die Ermordung von Charlie Kirk im September 2025. Die Teilnehmer wurden auf verschwörerische oder unsichere Interpretationen untersucht und dann einem Gespräch zugeteilt, in dem es um ihre eigene Theorie ging, einem nicht damit zusammenhängenden KI-Chat oder einem statischen zeitgenössischen Informationsblatt. Die zweite Studie war vorregistriert, die erste jedoch nicht. Daher ist die Replikation zwar informativ, aber nicht gleichbedeutend mit zwei unabhängigen Bestätigungsstudien.
Quellenangaben: Costello and colleagues' research paper on arXiv ↗
Warum es wichtig ist
Das Ergebnis legt nahe, dass ein Konversationssystem mehr kann, als eine Korrektur zu wiederholen: Es kann Fakten, Fragen und Unsicherheit an den spezifischen Grund anpassen, den eine Person für eine Überzeugung angibt.
Diese Unterscheidung ist bei schnell ablaufenden Ereignissen nützlich, wenn überprüfte Beweise unvollständig sind und ein allgemeines Faktenblatt möglicherweise nicht auf die Behauptung eingeht, die eine Person tatsächlich überzeugend findet. Die Strategieanalyse des Papiers ergab, dass sich das Modell mehr auf glaubwürdige Quellen, offene Fragen und Vorsicht stützte, wenn wenig bekannt war, und dann direktere Beweise verwendete, wenn das zweite Ereignis einen größeren Sachverhalt aufwies.
Die Autoren berichten auch über begrenzte Hinweise auf ein späteres Spillover. Zwei Monate nach dem ersten Experiment war die Wahrscheinlichkeit, dass die dem Dialog zugeteilten Teilnehmer zwei verschwörerische Interpretationen eines nachfolgenden Ereignisses befürworteten, geringer als bei den gepoolten Kontrollpersonen. In der zweiten Nachuntersuchung führte die direkte Behandlungszuweisung nicht zu einer signifikanten Verringerung der Überzeugungen hinsichtlich einer späteren Schießerei, obwohl eine separate vorab registrierte Persistenzanalyse und eine umfassendere Verschwörungsmessung auf geringere Übertragungseffekte hindeuteten.
Das Design zeigt, warum die Interaktion eine statische Korrektur übertreffen kann, ohne zu beweisen, dass Überzeugung immer wünschenswert ist. Gemini 1.5 Pro in der ersten Studie und Gemini 2.5 Pro in der zweiten Studie erhielten von Forschern kuratierte Faktengrundlagen, die bestätigte Informationen, entlarvte Behauptungen und ungelöste Fragen trennen. Das Modell könnte nach der spezifischen Argumentation des Teilnehmers fragen und entscheiden, ob es direkt antwortet, glaubwürdige Beweise anführt oder Unsicherheit bewahrt. Diese Anpassungsfähigkeit ist für die Bildung nützlich, gibt dem System aber auch Ermessensspielraum darüber, welche Ansprüche angefochten und welche Quellen in den Vordergrund gestellt werden sollen.
Die Studie rechtfertigt nicht den automatischen Einsatz überzeugender Bots in öffentlichen Gesprächen. Ein System, das dazu dient, Überzeugungen zu ändern, birgt eine ungewöhnliche Macht, und die Autoren weisen darauf hin, dass ähnliche Techniken auch den Glauben an falsche Behauptungen verstärken können. Jeder echte Dienst bräuchte eine transparente Urheberschaft, eine verlässliche Grundlage für die Veranstaltung, Schutzmaßnahmen gegen politische Angriffe und unabhängige Tests auf Genauigkeit und unbeabsichtigte Auswirkungen.
Interaktiver Mechanismus: Wie es tatsächlich funktioniert
Entdecken Sie interaktiv die zugrunde liegende Technologie, die dieser Entwicklung zugrunde liegt.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Was Sie als nächstes sehen sollten
Achten Sie auf Peer-Reviews, Replikation über zwei politische Krisen in den USA hinaus und Feldbeweise, die zeigen, ob Menschen sich für die Nutzung eines solchen Tools entscheiden, ohne für eine Studie rekrutiert zu werden.
Dies ist ein neuer Vorabdruck, der auf zwei Fallstudien basiert. Das erste Experiment war nicht vorab registriert, das zweite schon, und beide maßen selbstberichtete Überzeugungen unmittelbar nach einer kurzen Online-Interaktion und nicht das Teilenverhalten in der realen Welt, Abstimmungen oder langfristiges Vertrauen.
Die analysierten Stichproben umfassten nur Teilnehmer, deren offene Antworten von GPT-4o als verschwörerisch oder unsicher eingestuft wurden, obwohl die Autoren ähnliche Muster unter alternativen Klassifizierungsregeln berichten. In beiden Studien wurden US-amerikanische Erwachsene über CloudResearch rekrutiert, sodass die Ergebnisse möglicherweise nicht auf andere Länder, Sprachen, Ereignisse oder Bevölkerungsgruppen übertragen werden können.
Die Modelle stützten sich nicht auf Wissen ohne fremde Hilfe: Die Forscher lieferten sorgfältig zusammengestellte Faktengrundlagen und explizite Überzeugungsanweisungen. Zukünftige Arbeiten sollten prüfen, wer diese Fakten unter Termindruck aufrechterhält, wie Fehler korrigiert werden, ob gegensätzliche Standpunkte konsequent behandelt werden und wann ein System Unsicherheit wahren sollte, anstatt zu versuchen, zu überzeugen.
Es gibt auch einen messtechnischen Unterschied zwischen der Änderung einer geäußerten Überzeugung und der Verbesserung des Verständnisses einer Person. Die Ergebnisse waren selbstberichtete Bewertungen, die nach kurzen Online-Gesprächen gesammelt wurden, nicht beobachtetes Sharing-Verhalten, Quellenprüfung, Abstimmungen oder Entscheidungen, die während einer Live-Krise getroffen wurden. Die Folgeuntersuchungen des Papiers liefern frühe Beweise für die Persistenz, aber die gemischten Ergebnisse bedeuten, dass eine spätere Studie langfristige Ergebnisse vorab erfassen, die Fluktuation verfolgen und testen sollte, ob die Teilnehmer die Beweise selbst erklären können, anstatt einfach die Schlussfolgerung des Modells zu wiederholen.
Bei der Replikation sollte sowohl die Quelle der Faktenaufzeichnung als auch die Population variieren. Diese Experimente lieferten den Forschern eigene Faktengrundlagen und rekrutierten US-amerikanische Erwachsene über CloudResearch, was den Aufbau ungewöhnlich kontrolliert macht, aber offene Fragen zu mehrsprachigen Ereignissen, Einstellungen mit geringerer Konnektivität und Krisen, in denen offizielle Informationen verzögert oder umstritten sind, offen lässt. Ein verantwortungsvoller Feldversuch würde die Urheberschaft des Modells sichtbar machen, es den Teilnehmern ermöglichen, den Eingriff abzulehnen, zu protokollieren, welche Beweise vorgelegt wurden, und unabhängige Juroren einsetzen, um zu überprüfen, ob der Dialog ein Missverständnis korrigierte, ohne ein neues einzuführen. Es sollte Vertrauen, emotionale Reaktion und die Bereitschaft, Behauptungen zu teilen, sowie Glaubenswerte messen.