Chuyện gì đã xảy ra
Một nhóm nghiên cứu của Carnegie Mellon, MIT và Cornell đã đăng hai nghiên cứu điển hình ngẫu nhiên vào ngày 6 tháng 8 để kiểm tra xem liệu các cuộc trò chuyện ngắn về AI có thể chống lại niềm tin vào âm mưu trong khi sự thật về các sự kiện lớn vẫn đang nổi lên hay không.
Các nhà nghiên cứu đã phân tích 472 người Mỹ trưởng thành bày tỏ quan điểm âm mưu sau vụ ám sát Donald Trump vào tháng 7 năm 2024 và 1.035 người sau vụ ám sát Charlie Kirk vào tháng 9 năm 2025. Những người tham gia được chỉ định ngẫu nhiên vào một cuộc đối thoại vạch trần phù hợp, một cuộc trò chuyện AI không liên quan hoặc một danh sách tĩnh các sự kiện đương thời.
Các nhóm đối thoại đã hoàn thành ít nhất năm cuộc trao đổi với Gemini 1,5 Pro trong thử nghiệm đầu tiên và Gemini 2,5 Pro trong thử nghiệm thứ hai. Cả hai mô hình đều nhận được cơ sở thực tế được tuyển chọn để phân tách thông tin đã được xác nhận, các tuyên bố đã được gỡ bỏ và các câu hỏi chưa được giải quyết; mô hình thứ hai cũng chỉ có thể tìm kiếm trên web để xác minh thông tin thực tế.
Trên thước đo niềm tin từ 0 đến 100 đối với lý thuyết đã nêu của mỗi người tham gia, các cuộc đối thoại được điều chỉnh phù hợp đã tạo ra mức giảm 6,95 điểm so với kiểm soát trò chuyện không liên quan trong thử nghiệm đầu tiên và 7,56 điểm trong thử nghiệm thứ hai. Sự khác biệt so với tờ thông tin tĩnh là 5,60 và 6,56 điểm. Bài báo báo cáo các hiệu ứng tiêu chuẩn hóa khoảng 0,32 đến 0,38 cho những so sánh đó.
The two case studies were designed around moments when the factual record was still developing. The first followed the July 2024 attempt to assassinate Donald Trump; the second followed the September 2025 assassination of Charlie Kirk. Participants were screened for conspiratorial or uncertain interpretations, then assigned to a conversation that addressed their own stated theory, an unrelated AI chat, or a static contemporaneous fact sheet. The second study was preregistered, while the first was not, so the replication is informative but not equivalent to two independent confirmatory trials.
Chi tiết nguồn: Costello and colleagues' research paper on arXiv ↗
Tại sao nó quan trọng
Kết quả cho thấy rằng hệ thống đàm thoại có thể làm được nhiều việc hơn là lặp lại một sự điều chỉnh: nó có thể điều chỉnh các sự kiện, câu hỏi và sự không chắc chắn cho phù hợp với lý do cụ thể mà một người đưa ra cho một niềm tin.
Sự khác biệt đó rất hữu ích trong các sự kiện diễn biến nhanh, khi bằng chứng được xác minh không đầy đủ và một tờ thông tin chung chung có thể không giải quyết được tuyên bố mà một người thực sự thấy thuyết phục. Phân tích chiến lược của bài báo cho thấy mô hình dựa nhiều hơn vào các nguồn đáng tin cậy, các câu hỏi mở và sự thận trọng khi ít thông tin được biết đến, sau đó sử dụng nhiều bằng chứng trực tiếp hơn khi sự kiện thứ hai có hồ sơ thực tế lớn hơn.
Các tác giả cũng báo cáo bằng chứng hạn chế về sự lan tỏa sau này. Hai tháng sau thí nghiệm đầu tiên, những người tham gia được chỉ định tham gia cuộc đối thoại ít có khả năng tán thành hai cách giải thích mang tính âm mưu về một sự kiện tiếp theo. Trong lần theo dõi thứ hai, việc chỉ định điều trị trực tiếp không làm giảm đáng kể niềm tin về vụ nổ súng sau đó, mặc dù một phân tích về sự kiên trì được đăng ký trước riêng biệt và biện pháp âm mưu rộng hơn cho thấy tác động lan truyền nhỏ hơn.
The design shows why the interaction may outperform a static correction without proving that persuasion is always desirable. Gemini 1.5 Pro in the first study and Gemini 2.5 Pro in the second received researcher-curated fact bases separating confirmed information, debunked claims, and unresolved questions. The model could ask about the participant's specific reasoning and choose whether to answer directly, cite credible evidence, or preserve uncertainty. That adaptability is useful for education, but it also gives the system discretion over which claims to challenge and which sources to foreground.
Nghiên cứu không biện minh cho việc tự động triển khai các bot thuyết phục vào các cuộc trò chuyện công khai. Một hệ thống được hướng dẫn để thay đổi niềm tin có sức mạnh bất thường và các tác giả lưu ý rằng các kỹ thuật tương tự cũng có thể làm tăng niềm tin vào những tuyên bố sai lầm. Bất kỳ dịch vụ thực sự nào cũng cần có quyền tác giả minh bạch, nền tảng sự kiện đáng tin cậy, các biện pháp bảo vệ chống lại việc nhắm mục tiêu chính trị và các thử nghiệm độc lập về độ chính xác cũng như các tác động ngoài ý muốn.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Xem gì tiếp theo
Theo dõi đánh giá ngang hàng, nhân rộng sau hai cuộc khủng hoảng chính trị của Hoa Kỳ và bằng chứng thực địa cho thấy liệu mọi người có chọn sử dụng một công cụ như vậy mà không được tuyển dụng vào nghiên cứu hay không.
Đây là một bản thảo mới được xây dựng dựa trên hai nghiên cứu điển hình. Thử nghiệm đầu tiên không được đăng ký trước, thử nghiệm thứ hai và cả hai đều đo lường niềm tin tự báo cáo ngay sau một tương tác trực tuyến ngắn thay vì hành vi chia sẻ, bỏ phiếu hoặc niềm tin lâu dài trong thế giới thực.
Các mẫu được phân tích chỉ bao gồm những người tham gia có phản hồi mở được GPT-4o phân loại là có âm mưu hoặc không chắc chắn, mặc dù các tác giả báo cáo các mẫu tương tự theo các quy tắc phân loại thay thế. Cả hai nghiên cứu đều tuyển dụng người trưởng thành ở Hoa Kỳ thông qua CloudResearch, vì vậy, những phát hiện này có thể không được chuyển sang các quốc gia, ngôn ngữ, sự kiện hoặc nhóm dân cư khác.
Các mô hình không dựa vào kiến thức không có sự trợ giúp: các nhà nghiên cứu đã cung cấp các cơ sở thực tế được tập hợp cẩn thận và các hướng dẫn thuyết phục rõ ràng. Công việc trong tương lai nên kiểm tra xem ai duy trì những sự thật đó dưới áp lực về thời hạn, cách sửa lỗi, liệu các quan điểm đối lập có được xử lý nhất quán hay không và khi nào một hệ thống nên duy trì sự không chắc chắn thay vì cố gắng thuyết phục.
There is also a measurement distinction between changing a stated belief and improving a person's understanding. The outcomes were self-reported ratings collected after short online conversations, not observed sharing behavior, source checking, voting, or decisions made during a live crisis. The paper's follow-ups provide early evidence about persistence, but the mixed results mean a later study should pre-register long-term outcomes, track attrition, and test whether participants can explain the evidence themselves rather than simply repeating the model's conclusion.
Replication should vary the source of the factual record as well as the population. These experiments supplied researchers' own fact bases and recruited US adults through CloudResearch, which makes the setup unusually controlled but leaves open questions about multilingual events, lower-connectivity settings, and crises in which official information is delayed or disputed. A responsible field trial would make the model's authorship visible, let participants decline the intervention, log which evidence was shown, and use independent adjudicators to check whether the dialogue corrected a misconception without introducing a new one. It should measure trust, emotional response, and willingness to share claims alongside belief scores.