研究发现简短的人工智能聊天会降低人们对新阴谋的信心

主要来源文件来源记录 2026年8月8日 UTC 07:02

出版商: Costello and colleagues' research paper on arXiv
来源链接: arxiv.orghttps://arxiv.org/abs/2608.06151
来源类型: 主要文件——我们直接阅读的官方公告、文件、文件或第一方页面。

背景60 秒内了解这一点

从这里开始

关键术语

分类: 模型将输入分配给一个或多个预定义类别的任务。

测试一下自己人工智能道德测验

发生了什么

卡内基梅隆大学、麻省理工学院和康奈尔大学的研究小组于 8 月 6 日发布了两个随机案例研究，测试简短的人工智能对话是否可以在有关重大事件的事实仍在浮现的情况下对抗阴谋论。

研究人员分析了 472 名在 2024 年 7 月企图刺杀唐纳德·特朗普后表达阴谋论的美国成年人，以及 1,035 名在 2025 年 9 月刺杀查理·柯克后表达阴谋论的成年人。参与者被随机分配到一个量身定制的揭穿对话、一个不相关的人工智能对话或一个静态的同期事实列表。

对话组在第一个实验中与 Gemini 1.5 Pro 完成了至少五次交流，在第二个实验中与 Gemini 2.5 Pro 完成了至少五次交流。两种模型都收到了精心策划的事实库，将已确认的信息、已被揭穿的主张和未解决的问题分开；第二种模型还可以仅搜索网络来验证事实信息。

根据对每个参与者自己陈述的理论的 0 到 100 的信念测量，在第一个实验中，相对于不相关的聊天控制，定制的对话产生了 6.95 分的减少，在第二次实验中则减少了 7.56 分。与静态情况说明书的差异为 5.60 和 6.56 点。该论文报告了这些比较的标准化效果约为 0.32 至 0.38。

这两个案例研究是围绕事实记录仍在发展的时刻设计的。第一次是在 2024 年 7 月企图刺杀唐纳德·特朗普之后；第二次是在 2025 年 9 月查理·柯克 (Charlie Kirk) 遇刺之后发生的。参与者会被筛选出阴谋论或不确定的解释，然后被分配到一个讨论他们自己所陈述的理论的对话、一个不相关的人工智能聊天或一个静态的同期情况说明书。第二项研究是预先注册的，而第一项研究没有预先注册，因此复制具有信息性，但不等于两项独立的验证性试验。

来源详情: Costello and colleagues' research paper on arXiv ↗

为什么这很重要

结果表明，对话系统不仅仅可以重复纠正：它可以根据一个人给出的信念的具体原因来调整事实、问题和不确定性。

这种区别在快速发展的事件中非常有用，因为经过验证的证据不完整，并且通用情况说明书可能无法解决人们实际上认为有说服力的主张。该论文的策略分析发现，该模型在知之甚少时更倾向于可靠的来源、开放性问题和谨慎态度，然后在第二个事件有更多事实记录时使用更直接的证据。

作者还报告了后来溢出的有限证据。第一次实验两个月后，分配到对话的参与者比对照组更不可能支持对后续事件的两种阴谋性解释。在第二次随访中，直接治疗分配并没有显着降低对后来发生枪击事件的信念，尽管单独的预先登记的持续性分析和更广泛的阴谋措施表明后遗症较小。

该设计展示了为什么交互可能优于静态校正，而无需证明说服总是可取的。第一项研究中的 Gemini 1.5 Pro 和第二项研究中的 Gemini 2.5 Pro 收到了研究人员策划的事实库，将已确认的信息、已揭穿的主张和未解决的问题分开。该模型可以询问参与者的具体推理，并选择是否直接回答、引用可靠的证据或保留不确定性。这种适应性对于教育很有用，但它也赋予系统自由裁量权，决定哪些主张需要质疑，哪些来源需要放在前台。

该研究并没有证明自动将说服性机器人部署到公共对话中是合理的。一个被指示改变信念的系统拥有不同寻常的力量，作者指出，类似的技术也可以增加对错误主张的信念。任何真正的服务都需要透明的作者身份、可靠的事件基础、针对政治目标的保障措施以及对准确性和意外影响的独立测试。

Interactive Mechanism

互动机制：它实际上是如何运作的

以交互方式探索这一发展背后的基础技术。

Thinking Budget (Test-Time Tokens):1,024 tokens

Complex Accuracy79%Math & Code Logic

Latency3.2sTime to first full output

Inference Cost$0.0092Per query estimated

Reasoning StyleStep VerificationInternal chain depth

Active Thinking Trace:

1Deconstruct user problem into formal constraints

2Propose candidate hypotheses & step-by-step calculation

3Self-correction: Backtrack and refute subtle edge cases

4Exhaustive consistency check & final output synthesis

Core takeaway: Test-time compute fundamentally changes AI economics. Instead of only scaling during pre-training, giving reasoning models more tokens at inference time allows them to systematically solve PhD-level STEM problems.

交互式概念检查+10 Points

AI Ethics Quiz

Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?

接下来看什么

关注同行评审、两次美国政治危机之外的复制，以及显示人们是否选择使用这种工具而不被招募到研究中的现场证据。

这是围绕两个案例研究构建的新预印本。第一个实验没有预先注册，第二个实验则是在短暂的在线互动后立即测量自我报告的信念，而不是现实世界的分享行为、投票或长期信任。

分析的样本仅包括那些公开回答被 GPT-4o 分类为阴谋性或不确定性的参与者，尽管作者在替代分类规则下报告了类似的模式。这两项研究都通过 CloudResearch 招募了美国成年人，因此研究结果可能不会转移到其他国家、语言、事件或人群。

这些模型并不依赖于独立的知识：研究人员提供了精心组装的事实基础和明确的说服指令。未来的工作应该测试谁在最后期限的压力下维持这些事实，如何纠正错误，是否一致地对待相反的观点，以及系统何时应该保留不确定性而不是试图说服。

改变既定信念和提高一个人的理解力之间也存在衡量上的区别。结果是在简短的在线对话后收集的自我报告评级，而不是观察到的分享行为、来源检查、投票或在现场危机期间做出的决定。该论文的后续研究提供了有关持久性的早期证据，但混合的结果意味着后期的研究应该预先记录长期结果，跟踪消耗，并测试参与者是否可以自己解释证据，而不是简单地重复模型的结论。

复制应该改变事实记录的来源以及人口。这些实验提供了研究人员自己的事实基础，并通过 CloudResearch 招募了美国成年人，这使得实验过程受到异常控制，但也留下了关于多语言事件、低连接环境以及官方信息延迟或有争议的危机等悬而未决的问题。负责任的现场试验将使模型的作者身份可见，让参与者拒绝干预，记录所显示的证据，并使用独立的评审员来检查对话是否纠正了误解而不引入新的误解。它应该衡量信任、情绪反应、分享主张的意愿以及信念分数。