发生了什么
民主党参议员致信国防部长皮特·赫格斯和国家情报总监杰伊·克莱顿，要求立即调查军事情报中与人工智能相关的错误。
据news.meaww.com报道，包括马克·华纳、杰克·里德、克里斯·库恩斯在内的一批民主党参议员9月19日致信国防部长皮特·赫格斯和国家情报总监杰伊·克莱顿。信中要求相关监察长立即对人工智能造成的美军目标计划中的一系列错误进行调查。
参议员们引用了一个具体事件，即一份防务报告在美国军方流传，声称中国船只正在中东运输核武器计划的部件。这封信认为，各机构将加速人工智能能力的采用和实验置于有效治理之上。
消息人士指出，CNN 此前曾报道称，一名特种作战指挥分析师依靠人工智能生成了这份情报报告，该报告被描述为“完全错误”。该报告促使美军准备拦截船只的行动。官员们只是在行动已经开始、军用飞机在空中飞行时才发现该报告是人工智能生成的且不准确。
事件勉强避免，但消息人士援引一位人士的话说，这种情况“几乎引发了一场战争”。参议员们呼吁最终调查结果提高公众透明度，以恢复公众对情报和作战任务的信心。
为什么这很重要
该事件突显了军队在采用人工智能方面存在的关键安全和治理差距，其中自动分析几乎导致了基于虚假数据的动态军事反应。
这一事件标志着高风险国家安全环境中人工智能安全争论的显着升级。它将话题从理论上的风险转移到了涉及动能军事资产的有记录的险些发生的风险。
该事件凸显了军事行动中“自动化偏见”的危险，操作员可能会在没有充分人工验证的情况下信任人工智能生成的情报，特别是在时间压力下。
它凸显了治理失败，即人工智能采用的速度超过了国防部内必要的监督和错误检查机制的发展。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
Why can ethical evaluation not be reduced to one model score?
接下来看什么
国防部的回应以及监察长对人工智能治理协议的调查范围。
国防部和情报界对参议员信函的正式回应。
监察长调查的范围和时间表，特别是是否会审查整个军队更广泛的人工智能集成实践。
潜在的立法或政策变化旨在对用于目标决策的人工智能生成的情报提出人机交互要求。