发生了什么
马克·华纳、杰克·里德和克里斯·库恩斯等一批资深民主党参议员周五发出正式信函，敦促政府监管机构调查美国军事目标计划中人工智能造成的重大错误。这封信引用了 CNN 的一篇报道，详细介绍了一名分析师依靠人工智能生成的情报报告，错误地识别出一艘中国货船携带核武器部件。这一错误导致美国军方准备进行拦截行动，但在官员意识到人工智能生成的报告完全错误后才取消了拦截行动。参议员们还提到了伊朗 2 月份发生的致命袭击，造成近 200 人死亡，消息人士告诉 CNN，这次袭击是在指挥官绕过人工智能驱动的数据库有关过时情报的警告后发生的。这封信要求监察长立即进行公开透明的调查，认为人工智能的采用优先于治理已经造成了严重的运营风险。
包括马克·华纳、杰克·里德和克里斯·库恩斯在内的一批民主党高级参议员周五致信国防部长皮特·赫格斯和国家情报总监杰伊·克莱顿。信中呼吁相关监察长立即对人工智能造成的美军瞄准计划中的一系列错误进行调查。参议员们越来越担心他们监督下的机构将加速人工智能能力的采用和实验置于有效治理之上。
信中特别引用了美国有线电视新闻网（CNN）关于一艘中国船只在中东险些出险的报道。据熟悉该事件的消息人士透露，一名特种作战司令部分析师依靠人工智能生成了一份情报报告，该报告错误地识别了一艘中国货船上的材料。该报告使美国军方相信这艘船正在运输核武器计划的部件。就在计划行动之前，官员们意识到该报告是在人工智能的帮助下生成的并且完全是错误的，军方开始推动拦截该船只的计划。一位消息人士称这是一种“幻觉”，自从人工智能在政府中的使用开始激增以来，这在整个情报界并不是一个孤立的事件。
参议员们还提到美国 2 月份对伊朗米纳布一所学校发动的致命袭击，造成近 200 名儿童和成人死亡。三名消息人士今年早些时候告诉美国有线电视新闻网，这次袭击是在美国高级军事指挥官绕过关键数据库（包括由人工智能驱动的数据库）中的警告之后发起的，该数据库称有关伊朗潜在目标的情报严重过时。这封信认为，有关人工智能目标平台产生虚假输出的公开报告可能会带来严重的操作错误，并削弱人们对美国情报和动态行动的信心。
这封信要求赫格斯和克莱顿立即调查此事，并让监察长不受限制地访问今年媒体报道暗示人工智能定位工作流程中存在重大错误的事件，以及尚未公开报道的任何其他事件。参议员们强调，考虑到这些被认为的失败对公众对情报和作战任务的信心的影响，最终调查结果需要更高程度的公共透明度。
为什么这很重要
这一发展凸显了在没有强有力的治理的情况下将人工智能集成到高风险的军事和情报工作流程中的切实危险。美国有线电视新闻网 (CNN) 描述的这一事件，人工智能的幻觉几乎引发了一场战争，强调了自动化系统中人类监督和验证的迫切需要。参议员们呼吁监察长进行调查，这标志着越来越多的政治共识，即目前国防部门采用人工智能的速度可能超过了必要安全控制措施的发展速度。这可能会导致国防部内部出现新的监管框架或内部政策变化，以确保人工智能在动态作战中的可靠性。
涉及中国货船的事件说明了在没有充分的人工验证的情况下依靠人工智能进行关键情报评估的严重风险。事实上，这一错误是在计划的军事行动之前才被发现的，这一事实凸显了如果人工智能幻觉处理不当，可能会造成灾难性的外交和军事后果。该事件是为什么治理和安全控制在高风险人工智能应用中至关重要的具体例子。
对伊朗致命袭击的提及进一步强调了人工智能相关情报失败所造成的人员损失。绕过人工智能对过时数据的警告表明，当前系统可能无法有效地集成到决策过程中，或者人类操作员可能会忽视关键的安全检查。这引发了关于人工智能定位工作流程的可靠性以及是否需要更强大的监督机制的严重问题。
参议员们呼吁监察长进行调查，这标志着军队中人工智能的政治动态发生了变化。虽然关于人工智能监管的争论主导了国会，民主党人呼吁加强控制，共和党人警告不要放慢发展速度，但这一事件为有效治理的必要性提供了令人信服的理由。调查结果可能会影响未来的政策决策，并可能导致制定新的法规或内部协议，以确保人工智能在军事行动中的可靠性。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
接下来看什么
请留意国防部长皮特·赫格斯和国家情报总监杰伊·克莱顿对参议员信的回应。此外，还要关注监察长是否对所提及的具体事件（包括中国船只拦截和伊朗袭击）发起正式调查。这项调查的结果可能会影响国会关于军队人工智能监管的更广泛辩论，并可能影响五角大楼与 Anthropic 等人工智能公司之间正在进行的关于在自主武器中使用其模型的谈判。
国防部长皮特·赫格斯和国家情报总监杰伊·克莱顿对参议员信的回应将成为政府对军队人工智能治理立场的关键指标。他们的反应可能会揭示他们是否愿意配合监察长的调查，或者是否会捍卫当前采用人工智能的方法。
监察长对信中提到的具体事件启动正式调查将是一个重大进展。这项调查的范围和结果可以为军事目标工作流程中人工智能相关错误的程度以及当前治理措施的有效性提供有价值的见解。
国会正在进行的关于人工智能监管的辩论可能会受到这项调查结果的影响。如果调查揭示人工智能治理的重大失败，可能会加强更严格的监管和更强有力的监督机制的理由。相反，如果调查发现这些事件是孤立的，并且当前的控制措施是有效的，那么它可能会支持继续快速采用人工智能的论点。
五角大楼与Anthropic等AI公司的关系也可能会受到此次事件的影响。美国国防部已经与 Anthropic 发生争执，因为该公司拒绝拆除内部安全护栏，这些护栏将阻止军方在自主武器和大规模监视中使用其 Claude 人工智能模型。调查结果可能会影响军方和人工智能开发商之间未来的谈判和伙伴关系。