Kajian Menemui Sembang AI Pendek Mengurangkan Kepercayaan terhadap Konspirasi Baru

Apa yang berlaku

Pasukan penyelidik Carnegie Mellon, MIT, dan Cornell menyiarkan dua kajian kes rawak pada 6 Ogos menguji sama ada perbualan singkat AI boleh menentang kepercayaan konspirasi sementara fakta tentang peristiwa besar masih muncul.

Para penyelidik menganalisis 472 orang dewasa AS yang menyatakan pandangan konspirasi selepas percubaan Julai 2024 untuk membunuh Donald Trump dan 1,035 selepas pembunuhan Charlie Kirk pada September 2025. Peserta secara rawak ditugaskan untuk dialog pembongkaran yang disesuaikan, perbualan AI yang tidak berkaitan atau senarai statik fakta sezaman.

Kumpulan dialog menyelesaikan sekurang-kurangnya lima pertukaran dengan Gemini 1.5 Pro dalam percubaan pertama dan Gemini 2.5 Pro dalam percubaan kedua. Kedua-dua model menerima pangkalan fakta yang dipilih susun yang memisahkan maklumat yang disahkan, tuntutan yang ditolak dan soalan yang tidak dapat diselesaikan; model kedua juga boleh mencari di web hanya untuk mengesahkan maklumat fakta.

Pada ukuran kepercayaan 0 hingga 100 dalam teori yang dinyatakan sendiri oleh setiap peserta, dialog yang disesuaikan menghasilkan pengurangan sebanyak 6.95 mata berbanding kawalan sembang yang tidak berkaitan dalam percubaan pertama dan 7.56 mata pada percubaan kedua. Perbezaan daripada lembaran fakta statik ialah 5.60 dan 6.56 mata. Kertas itu melaporkan kesan piawai kira-kira 0.32 hingga 0.38 untuk perbandingan tersebut.

The two case studies were designed around moments when the factual record was still developing. The first followed the July 2024 attempt to assassinate Donald Trump; the second followed the September 2025 assassination of Charlie Kirk. Participants were screened for conspiratorial or uncertain interpretations, then assigned to a conversation that addressed their own stated theory, an unrelated AI chat, or a static contemporaneous fact sheet. The second study was preregistered, while the first was not, so the replication is informative but not equivalent to two independent confirmatory trials.

Butiran sumber: Costello and colleagues' research paper on arXiv ↗

Mengapa ia penting

Hasilnya menunjukkan bahawa sistem perbualan boleh melakukan lebih daripada mengulangi pembetulan: ia boleh menyesuaikan fakta, soalan dan ketidakpastian dengan alasan khusus yang diberikan oleh seseorang untuk sesuatu kepercayaan.

Perbezaan itu berguna semasa peristiwa bergerak pantas, apabila bukti yang disahkan tidak lengkap dan helaian fakta generik mungkin tidak menangani dakwaan yang seseorang sebenarnya mendapati persuasif. Analisis strategi kertas itu mendapati model itu lebih bersandar pada sumber yang boleh dipercayai, soalan terbuka, dan berhati-hati apabila sedikit diketahui, kemudian menggunakan lebih banyak bukti langsung apabila peristiwa kedua mempunyai rekod fakta yang lebih besar.

Penulis juga melaporkan bukti terhad tentang limpahan kemudian. Dua bulan selepas percubaan pertama, peserta yang ditugaskan untuk dialog adalah kurang berkemungkinan daripada kawalan terkumpul untuk menyokong dua tafsiran konspirasi bagi peristiwa berikutnya. Dalam susulan kedua, penugasan rawatan langsung tidak mengurangkan kepercayaan tentang penembakan kemudian, walaupun analisis kegigihan pradaftar yang berasingan dan langkah konspirasi yang lebih luas mencadangkan kesan pembawaan yang lebih kecil.

The design shows why the interaction may outperform a static correction without proving that persuasion is always desirable. Gemini 1.5 Pro in the first study and Gemini 2.5 Pro in the second received researcher-curated fact bases separating confirmed information, debunked claims, and unresolved questions. The model could ask about the participant's specific reasoning and choose whether to answer directly, cite credible evidence, or preserve uncertainty. That adaptability is useful for education, but it also gives the system discretion over which claims to challenge and which sources to foreground.

Kajian itu tidak membenarkan penggunaan bot persuasif secara automatik ke dalam perbualan awam. Sistem yang diarahkan untuk menukar kepercayaan mempunyai kuasa yang luar biasa, dan penulis ambil perhatian bahawa teknik yang sama juga boleh meningkatkan kepercayaan terhadap dakwaan palsu. Sebarang perkhidmatan sebenar memerlukan pengarang yang telus, asas acara yang boleh dipercayai, perlindungan terhadap penyasaran politik dan ujian ketepatan bebas dan kesan yang tidak diingini.

Apa yang perlu ditonton seterusnya

Tonton semakan rakan sebaya, replikasi selepas dua krisis politik AS dan bukti lapangan yang menunjukkan sama ada orang memilih untuk menggunakan alat sedemikian tanpa direkrut ke dalam kajian.

Ini adalah pracetak baharu yang dibina berdasarkan dua kajian kes. Percubaan pertama tidak dipradaftarkan, yang kedua adalah, dan kedua-duanya mengukur kepercayaan yang dilaporkan sendiri sejurus selepas interaksi dalam talian yang singkat dan bukannya tingkah laku perkongsian dunia sebenar, pengundian atau kepercayaan jangka panjang.

Sampel yang dianalisis termasuk hanya peserta yang respons terbukanya diklasifikasikan sebagai konspirator atau tidak pasti oleh GPT-4o, walaupun pengarang melaporkan corak yang sama di bawah peraturan pengelasan alternatif. Kedua-dua kajian merekrut orang dewasa AS melalui CloudResearch, jadi penemuan mungkin tidak dipindahkan ke negara, bahasa, acara atau populasi lain.

Model tidak bergantung pada pengetahuan tanpa bantuan: penyelidik membekalkan asas fakta yang disusun dengan teliti dan arahan pujukan yang jelas. Kerja masa depan harus menguji siapa yang mengekalkan fakta tersebut di bawah tekanan tarikh akhir, cara kesilapan diperbetulkan, sama ada sudut pandangan yang bertentangan dilayan secara konsisten, dan bila sistem harus mengekalkan ketidakpastian dan bukannya cuba memujuk.

There is also a measurement distinction between changing a stated belief and improving a person's understanding. The outcomes were self-reported ratings collected after short online conversations, not observed sharing behavior, source checking, voting, or decisions made during a live crisis. The paper's follow-ups provide early evidence about persistence, but the mixed results mean a later study should pre-register long-term outcomes, track attrition, and test whether participants can explain the evidence themselves rather than simply repeating the model's conclusion.

Replication should vary the source of the factual record as well as the population. These experiments supplied researchers' own fact bases and recruited US adults through CloudResearch, which makes the setup unusually controlled but leaves open questions about multilingual events, lower-connectivity settings, and crises in which official information is delayed or disputed. A responsible field trial would make the model's authorship visible, let participants decline the intervention, log which evidence was shown, and use independent adjudicators to check whether the dialogue corrected a misconception without introducing a new one. It should measure trust, emotional response, and willingness to share claims alongside belief scores.

Panduan & kuiz berkaitan