Какво стана
Изследователски екип на Карнеги Мелън, Масачузетския технологичен институт и Корнел публикува две рандомизирани казуси на 6 август, тествайки дали кратките разговори с изкуствен интелект могат да противодействат на конспиративните убеждения, докато фактите за големи събития все още се появяват.
Изследователите са анализирали 472 възрастни американци, които са изразили конспиративни възгледи след опита през юли 2024 г. за убийството на Доналд Тръмп и 1035 след убийството на Чарли Кърк през септември 2025 г. Участниците бяха разпределени на случаен принцип към персонализиран диалог за развенчаване, несвързан разговор с AI или статичен списък от съвременни факти.
Диалоговите групи завършиха поне пет обмена с Gemini 1.5 Pro в първия експеримент и Gemini 2.5 Pro във втория. И двата модела получиха подбрана база от факти, която разделяше потвърдена информация, развенчани твърдения и неразрешени въпроси; вторият модел също може да търси в мрежата само за проверка на фактическа информация.
При измерване от 0 до 100 на вярата в собствената заявена теория на всеки участник, персонализираните диалози доведоха до намаления от 6,95 точки спрямо контролата за несвързан чат в първия експеримент и 7,56 точки във втория. Разликите от статичната справка бяха 5,60 и 6,56 точки. Документът отчита стандартизирани ефекти от приблизително 0,32 до 0,38 за тези сравнения.
The two case studies were designed around moments when the factual record was still developing. The first followed the July 2024 attempt to assassinate Donald Trump; the second followed the September 2025 assassination of Charlie Kirk. Participants were screened for conspiratorial or uncertain interpretations, then assigned to a conversation that addressed their own stated theory, an unrelated AI chat, or a static contemporaneous fact sheet. The second study was preregistered, while the first was not, so the replication is informative but not equivalent to two independent confirmatory trials.
Детайли за източника: Costello and colleagues' research paper on arXiv ↗
Защо има значение
Резултатът предполага, че разговорната система може да направи повече от това да повтори корекция: тя може да адаптира факти, въпроси и несигурност към конкретната причина, която човек дава за своето убеждение.
Това разграничение е полезно по време на бързо развиващи се събития, когато проверените доказателства са непълни и общият информационен лист може да не се отнася до твърдението, което човек действително намира за убедително. Стратегическият анализ на документа установи, че моделът се опира повече на надеждни източници, открити въпроси и предпазливост, когато се знае малко, след което използва по-директни доказателства, когато второто събитие има по-голям фактически запис.
Авторите също така докладват ограничени доказателства за по-късно разпространение. Два месеца след първия експеримент участниците, назначени за диалога, са били по-малко склонни в сравнение с обединените контроли да одобрят две конспиративни интерпретации на последващо събитие. При второто проследяване директното назначение на лечение не намали значително вярванията за по-късна стрелба, въпреки че отделен предварително регистриран анализ на устойчивостта и по-широка мярка за конспирация предполагат по-малки ефекти на пренасяне.
The design shows why the interaction may outperform a static correction without proving that persuasion is always desirable. Gemini 1.5 Pro in the first study and Gemini 2.5 Pro in the second received researcher-curated fact bases separating confirmed information, debunked claims, and unresolved questions. The model could ask about the participant's specific reasoning and choose whether to answer directly, cite credible evidence, or preserve uncertainty. That adaptability is useful for education, but it also gives the system discretion over which claims to challenge and which sources to foreground.
Проучването не оправдава автоматичното внедряване на убедителни ботове в публични разговори. Система, инструктирана да променя убежденията, притежава необичайна сила и авторите отбелязват, че подобни техники могат също да увеличат вярата в неверни твърдения. Всяка истинска услуга ще се нуждае от прозрачно авторство, надеждно обосноваване на събитието, предпазни мерки срещу политическо насочване и независими тестове за точност и непредвидени ефекти.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Какво да гледате след това
Следете за партньорска проверка, повторение след две политически кризи в САЩ и полеви доказателства, показващи дали хората избират да използват такъв инструмент, без да бъдат наети в проучване.
Това е нов предпечат, изграден около два казуса. Първият експеримент не беше предварително регистриран, вторият беше, и двата измерваха самоотчетени вярвания веднага след кратко онлайн взаимодействие, а не поведение на споделяне в реалния свят, гласуване или дългосрочно доверие.
Анализираните проби включват само участници, чиито открити отговори са класифицирани като конспиративни или несигурни от GPT-4o, въпреки че авторите съобщават за подобни модели при алтернативни правила за класификация. И двете проучвания са набирали възрастни от САЩ чрез CloudResearch, така че констатациите може да не се прехвърлят в други държави, езици, събития или население.
Моделите не разчитаха на неподпомогнато знание: изследователите предоставиха внимателно събрани бази от факти и изрични инструкции за убеждаване. Бъдещата работа трябва да тества кой поддържа тези факти под натиска на крайния срок, как се коригират грешките, дали противоположните гледни точки се третират последователно и кога системата трябва да запази несигурността, вместо да се опитва да убеждава.
There is also a measurement distinction between changing a stated belief and improving a person's understanding. The outcomes were self-reported ratings collected after short online conversations, not observed sharing behavior, source checking, voting, or decisions made during a live crisis. The paper's follow-ups provide early evidence about persistence, but the mixed results mean a later study should pre-register long-term outcomes, track attrition, and test whether participants can explain the evidence themselves rather than simply repeating the model's conclusion.
Replication should vary the source of the factual record as well as the population. These experiments supplied researchers' own fact bases and recruited US adults through CloudResearch, which makes the setup unusually controlled but leaves open questions about multilingual events, lower-connectivity settings, and crises in which official information is delayed or disputed. A responsible field trial would make the model's authorship visible, let participants decline the intervention, log which evidence was shown, and use independent adjudicators to check whether the dialogue corrected a misconception without introducing a new one. It should measure trust, emotional response, and willingness to share claims alongside belief scores.