Co se stalo
Výzkumný tým Carnegie Mellon, MIT a Cornell zveřejnil 6. srpna dvě randomizované případové studie, které testovaly, zda krátké konverzace s umělou inteligencí mohou vyvrátit konspirační přesvědčení, zatímco fakta o hlavních událostech se stále objevují.
Vědci analyzovali 472 dospělých v USA, kteří vyjádřili konspirativní názory po pokusu o atentát na Donalda Trumpa v červenci 2024 a 1 035 po atentátu na Charlieho Kirka v září 2025. Účastníci byli náhodně zařazeni do přizpůsobeného dialogu pro odhalení, nesouvisející konverzace s umělou inteligencí nebo do statického seznamu současných faktů.
Dialogové skupiny dokončily alespoň pět výměn s Gemini 1.5 Pro v prvním experimentu a Gemini 2.5 Pro ve druhém. Oba modely obdržely kurátorskou faktickou základnu, která oddělovala potvrzené informace, vyvrácená tvrzení a nevyřešené otázky; druhý model mohl také prohledávat web pouze za účelem ověření faktických informací.
Na základě míry důvěry ve vlastní vyslovenou teorii každého účastníka vedly přizpůsobené dialogy snížení o 6,95 bodu ve srovnání s nesouvisející kontrolou chatu v prvním experimentu a 7,56 bodu ve druhém. Rozdíly oproti statickému přehledu byly 5,60 a 6,56 bodu. Dokument uvádí standardizované účinky zhruba 0,32 až 0,38 pro tato srovnání.
Tyto dvě případové studie byly navrženy s ohledem na okamžiky, kdy se faktický záznam stále vyvíjel. První následoval po pokusu o atentát na Donalda Trumpa z července 2024; druhá následovala po atentátu na Charlieho Kirka v září 2025. Účastníci byli testováni na konspirativní nebo nejisté interpretace a poté byli zařazeni do konverzace, která se zabývala jejich vlastní teorií, nesouvisejícím chatem s umělou inteligencí nebo statickým aktuálním přehledem faktů. Druhá studie byla předregistrována, zatímco první nebyla, takže replikace je informativní, ale není ekvivalentní dvěma nezávislým potvrzujícím studiím.
Podrobnosti o zdroji: Costello and colleagues' research paper on arXiv ↗
Proč na tom záleží
Výsledek naznačuje, že konverzační systém dokáže více než jen opakovat opravu: může přizpůsobit fakta, otázky a nejistotu konkrétnímu důvodu, který člověk uvádí pro své přesvědčení.
Toto rozlišení je užitečné během rychle se měnících událostí, kdy jsou ověřené důkazy neúplné a obecný přehled faktů nemusí řešit tvrzení, které osoba skutečně považuje za přesvědčivou. Analýza strategie v dokumentu zjistila, že model se více opíral o důvěryhodné zdroje, otevřené otázky a opatrnost, když bylo známo málo, a poté použil přímější důkazy, když druhá událost měla větší faktický záznam.
Autoři také uvádějí omezené důkazy pozdějšího přelévání. Dva měsíce po prvním experimentu byla u účastníků zařazených do dialogu méně pravděpodobné, že než sdružené kontroly schválí dvě konspirativní interpretace následné události. Ve druhém sledování přímé přidělení léčby významně nesnížilo přesvědčení o pozdější střelbě, ačkoli samostatná předem registrovaná analýza perzistence a širší konspirační opatření naznačovaly menší přenosové účinky.
Návrh ukazuje, proč může interakce překonat statickou korekci, aniž by se prokázalo, že přesvědčování je vždy žádoucí. Gemini 1.5 Pro v první studii a Gemini 2.5 Pro ve druhé obdržely faktickou základnu spravovanou výzkumníky, která odděluje potvrzené informace, vyvrácená tvrzení a nevyřešené otázky. Model se mohl zeptat na konkrétní úvahy účastníka a vybrat si, zda odpoví přímo, uvede věrohodné důkazy nebo zachová nejistotu. Tato přizpůsobivost je užitečná pro vzdělávání, ale také dává systému možnost rozhodnout se, která tvrzení zpochybnit a které zdroje do popředí.
Studie neospravedlňuje automatické nasazování přesvědčivých botů do veřejných konverzací. Systém instruovaný ke změně přesvědčení má neobvyklou sílu a autoři poznamenávají, že podobné techniky mohou také zvýšit víru ve falešná tvrzení. Každá skutečná služba by potřebovala transparentní autorství, spolehlivé uzemnění událostí, záruky proti politickému cílení a nezávislé testy přesnosti a nezamýšlených efektů.
Interaktivní mechanismus: Jak to vlastně funguje
Interaktivně prozkoumejte základní technologii tohoto vývoje.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Na co se dále dívat
Podívejte se na vzájemné hodnocení, replikaci po dvou amerických politických krizích a terénní důkazy, které ukazují, zda se lidé rozhodnou použít takový nástroj, aniž by byli náborováni do studie.
Toto je nový předtisk postavený na dvou případových studiích. První experiment nebyl předem registrován, druhý ano a oba měřili sebevyjádřená přesvědčení ihned po krátké online interakci, spíše než skutečné sdílení chování, hlasování nebo dlouhodobou důvěru.
Analyzované vzorky zahrnovaly pouze účastníky, jejichž otevřené odpovědi byly klasifikovány jako konspirativní nebo nejisté pomocí GPT-4o, ačkoli autoři uvádějí podobné vzorce podle alternativních klasifikačních pravidel. Obě studie rekrutovaly dospělé z USA prostřednictvím CloudResearch, takže zjištění se nemusí přenést do jiných zemí, jazyků, událostí nebo populací.
Modely se nespoléhaly na znalosti bez pomoci: výzkumníci dodali pečlivě sestavené základny faktů a explicitní pokyny k přesvědčování. Budoucí práce by měla otestovat, kdo udržuje tato fakta pod tlakem termínů, jak se opravují chyby, zda se důsledně zachází s protichůdnými názory a kdy by měl systém zachovat nejistotu namísto snahy přesvědčovat.
Existuje také rozdíl v měření mezi změnou deklarovaného přesvědčení a zlepšením porozumění osoby. Výstupy byly vlastní hodnocení shromážděné po krátkých online konverzacích, nepozorované chování při sdílení, kontrola zdroje, hlasování nebo rozhodnutí učiněná během živé krize. Následná opatření v dokumentu poskytují první důkazy o perzistenci, ale smíšené výsledky znamenají, že pozdější studie by měla předem zaregistrovat dlouhodobé výsledky, sledovat opotřebení a testovat, zda účastníci dokážou vysvětlit důkazy sami, spíše než jednoduše opakovat závěr modelu.
Replikace by měla měnit zdroj faktického záznamu i populaci. Tyto experimenty poskytly vlastní faktické základny výzkumníků a naverbovaly dospělé z USA prostřednictvím CloudResearch, díky čemuž je nastavení neobvykle kontrolované, ale ponechává otevřené otázky o vícejazyčných událostech, nastaveních s nižší konektivitou a krizích, ve kterých jsou oficiální informace zpožděny nebo zpochybňovány. Zodpovědná terénní zkouška by zviditelnila autorství modelu, umožnila účastníkům odmítnout zásah, zaznamenat, které důkazy byly prokázány, a pomocí nezávislých posuzovatelů zkontrolovat, zda dialog napravil mylnou představu, aniž by vnesl novou. Měl by měřit důvěru, emocionální odezvu a ochotu sdílet tvrzení spolu se skórem přesvědčení.