Ce sa întâmplat
O echipă de cercetare Carnegie Mellon, MIT și Cornell a postat două studii de caz randomizate pe 6 august, testând dacă conversațiile scurte cu inteligența artificială ar putea contracara convingerile conspirației, în timp ce faptele despre evenimente majore erau încă la iveală.
Cercetătorii au analizat 472 de adulți din SUA care și-au exprimat păreri conspirative după încercarea din iulie 2024 de a-l asasina pe Donald Trump și 1.035 după asasinarea lui Charlie Kirk din septembrie 2025. Participanții au fost repartizați aleatoriu la un dialog personalizat de dezmințire, o conversație AI fără legătură sau o listă statică de fapte contemporane.
Grupurile de dialog au finalizat cel puțin cinci schimburi cu Gemini 1.5 Pro în primul experiment și Gemini 2.5 Pro în al doilea. Ambele modele au primit o bază de date organizată care a separat informațiile confirmate, afirmațiile dezmințite și întrebările nerezolvate; al doilea model ar putea căuta, de asemenea, pe web doar pentru a verifica informațiile faptice.
Pe o măsură de la 0 la 100 a credinței în teoria propriu-zisă a fiecărui participant, dialogurile personalizate au produs reduceri de 6,95 puncte în raport cu controlul chatului fără legătură în primul experiment și 7,56 puncte în al doilea. Diferențele față de fișa statică au fost de 5,60 și 6,56 puncte. Lucrarea raportează efecte standardizate de aproximativ 0,32 până la 0,38 pentru aceste comparații.
Cele două studii de caz au fost concepute în jurul unor momente în care dosarul faptelor era încă în curs de dezvoltare. Prima a urmat tentativei din iulie 2024 de a-l asasina pe Donald Trump; a doua a urmat asasinarea lui Charlie Kirk din septembrie 2025. Participanții au fost examinați pentru interpretări conspirative sau incerte, apoi au fost repartizați la o conversație care a abordat propria lor teorie declarată, un chat AI fără legătură sau o fișă informativă contemporană statică. Al doilea studiu a fost preînregistrat, în timp ce primul nu a fost, astfel încât replicarea este informativă, dar nu echivalentă cu două studii de confirmare independente.
Detalii sursa: Costello and colleagues' research paper on arXiv ↗
De ce contează
Rezultatul sugerează că un sistem conversațional poate face mai mult decât să repete o corecție: poate adapta faptele, întrebările și incertitudinea la motivul specific pe care îl oferă o persoană pentru o credință.
Această distincție este utilă în timpul evenimentelor cu mișcare rapidă, când dovezile verificate sunt incomplete și este posibil ca o fișă informativă generică să nu abordeze afirmația pe care o persoană o consideră de fapt convingătoare. Analiza strategiei a lucrării a constatat că modelul s-a bazat mai mult pe surse credibile, întrebări deschise și prudență atunci când se cunoșteau puține, apoi folosea dovezi mai directe atunci când al doilea eveniment avea o înregistrare mai mare a faptelor.
Autorii raportează, de asemenea, dovezi limitate ale deversării ulterioare. La două luni după primul experiment, participanții desemnați la dialog au fost mai puțin probabili decât controalele grupate să susțină două interpretări conspirative ale unui eveniment ulterior. În a doua urmărire, atribuirea directă a tratamentului nu a redus semnificativ convingerile despre o împușcare ulterioară, deși o analiză separată a persistenței preînregistrate și o măsură mai largă a conspirației au sugerat efecte mai mici de transfer.
Designul arată de ce interacțiunea poate depăși o corecție statică fără a dovedi că persuasiunea este întotdeauna de dorit. Gemini 1.5 Pro în primul studiu și Gemini 2.5 Pro în al doilea au primit baze de fapt organizate de cercetători care separă informațiile confirmate, afirmațiile dezmințite și întrebările nerezolvate. Modelul ar putea să întrebe despre raționamentul specific al participantului și să aleagă dacă să răspundă direct, să citeze dovezi credibile sau să păstreze incertitudinea. Această adaptabilitate este utilă pentru educație, dar oferă, de asemenea, sistemului discreție asupra celor care pretenții să conteste și care surse să fie în prim plan.
Studiul nu justifică implementarea automată a roboților persuasivi în conversațiile publice. Un sistem instruit să schimbe convingerile deține o putere neobișnuită, iar autorii observă că tehnici similare pot crește, de asemenea, credința în afirmațiile false. Orice serviciu real ar avea nevoie de paternitate transparentă, stabilire de încredere a evenimentelor, garanții împotriva țintirii politice și teste independente de acuratețe și efecte nedorite.
Mecanism interactiv: cum funcționează de fapt
Explorați tehnologia care stau la baza acestei dezvoltări în mod interactiv.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Ce să urmărești în continuare
Urmăriți evaluarea inter pares, replicarea dincolo de două crize politice din SUA și dovezile de teren care arată dacă oamenii aleg să folosească un astfel de instrument fără a fi recrutați într-un studiu.
Acesta este un nou preprint construit în jurul a două studii de caz. Primul experiment nu a fost preînregistrat, al doilea a fost și ambii au măsurat convingerile auto-raportate imediat după o scurtă interacțiune online, mai degrabă decât comportamentul de partajare în lumea reală, votul sau încrederea pe termen lung.
Eșantioanele analizate au inclus doar participanții ale căror răspunsuri deschise au fost clasificate ca fiind conspirative sau nesigure de GPT-4o, deși autorii raportează modele similare în conformitate cu regulile de clasificare alternative. Ambele studii au recrutat adulți din SUA prin CloudResearch, astfel încât descoperirile ar putea să nu fie transferate în alte țări, limbi, evenimente sau populații.
Modelele nu se bazau pe cunoștințe neasistate: cercetătorii au furnizat baze de fapt asamblate cu grijă și instrucțiuni explicite de persuasiune. Lucrările viitoare ar trebui să testeze cine menține aceste fapte sub presiunea termenului limită, cum sunt corectate erorile, dacă punctele de vedere opuse sunt tratate în mod consecvent și când un sistem ar trebui să păstreze incertitudinea în loc să încerce să convingă.
Există, de asemenea, o distincție de măsurare între schimbarea unei convingeri declarate și îmbunătățirea înțelegerii unei persoane. Rezultatele au fost evaluări auto-raportate colectate după scurte conversații online, comportament de partajare neobservat, verificarea sursei, vot sau decizii luate în timpul unei crize în direct. Urmăririle lucrării oferă dovezi timpurii despre persistență, dar rezultatele mixte înseamnă că un studiu ulterior ar trebui să preînregistreze rezultatele pe termen lung, să urmărească uzura și să testeze dacă participanții pot explica ei înșiși dovezile, mai degrabă decât să repete concluzia modelului.
Replicarea ar trebui să varieze sursa înregistrării faptice, precum și populația. Aceste experimente au furnizat propriile baze de fapte ale cercetătorilor și au recrutat adulți din SUA prin CloudResearch, ceea ce face ca configurația să fie controlată neobișnuit, dar lasă întrebări deschise despre evenimentele multilingve, setările de conectivitate mai scăzută și crizele în care informațiile oficiale sunt amânate sau contestate. Un studiu responsabil de teren ar face vizibilă paternitatea modelului, ar permite participanților să refuze intervenția, să înregistreze dovezile prezentate și să folosească arbitri independenți pentru a verifica dacă dialogul a corectat o concepție greșită fără a introduce una nouă. Ar trebui să măsoare încrederea, răspunsul emoțional și disponibilitatea de a împărtăși afirmațiile alături de scorurile convingerilor.