發生了什麼事
馬克華納、傑克里德和克里斯庫恩斯等一批資深民主黨參議員週五發出正式信函，敦促政府監管機構調查美國軍事目標計畫中人工智慧造成的重大錯誤。這封信引用了 CNN 的一篇報導，詳細介紹了一名分析師依靠人工智慧產生的情報報告，錯誤地識別出一艘中國貨船攜帶核武部件。這一錯誤導緻美國軍方準備進行攔截行動，但在官員意識到人工智慧產生的報告完全錯誤後才取消了攔截行動。參議員們還提到了伊朗 2 月的致命襲擊，造成近 200 人死亡，消息人士告訴 CNN，這次襲擊是在指揮官繞過人工智慧驅動的資料庫有關過時情報的警告後發生的。這封信要求監察長立即進行公開透明的調查，認為人工智慧的採用優先於治理已經造成了嚴重的營運風險。
包括馬克華納、傑克里德和克里斯庫恩斯在內的一批民主黨高級參議員週五致信國防部長皮特赫格斯和國家情報總監傑伊克萊頓。信中呼籲相關監察長立即對人工智慧造成的美軍瞄準計畫中的一系列錯誤進行調查。參議員越來越擔心他們監督下的機構將加速人工智慧能力的採用和實驗置於有效治理之上。
信中特别引用了美国有线电视新闻网（CNN）关于一艘中国船只在中东险些出险的报道。據熟悉該事件的消息人士透露，一名特種作戰司令部分析師依靠人工智慧生成了一份情報報告，該報告錯誤地識別了一艘中國貨船上的材料。该报告使美国军方相信这艘船正在运输核武器计划的部件。就在計劃行動之前，官員們意識到該報告是在人工智慧的幫助下產生的並且完全是錯誤的，軍方開始推動攔截該船隻的計劃。一位消息人士稱這是一種“幻覺”，自從人工智慧在政府中的使用開始激增以來，這在整個情報界並不是一個孤立的事件。
参议员们还提到美国 2 月份对伊朗米纳布一所学校发动的致命袭击，造成近 200 名儿童和成人死亡。三名消息人士今年稍早告訴美國有線電視新聞網，這次襲擊是在美國高級軍事指揮官繞過關鍵資料庫（包括由人工智慧驅動的資料庫）中的警告之後發起的，該資料庫稱有關伊朗潛在目標的情報嚴重過時。這封信認為，有關人工智慧目標平台產生虛假輸出的公開報告可能會帶來嚴重的操作錯誤，並削弱人們對美國情報和動態行動的信心。
這封信要求赫格斯和克萊頓立即調查此事，並讓監察長不受限制地訪問今年媒體報道暗示人工智能定位工作流程中存在重大錯誤的事件，以及尚未公開報道的任何其他事件。參議員強調，考慮到這些被認為的失敗對公眾對情報和作戰任務的信心的影響，最終調查結果需要更高程度的公共透明度。
為什麼這很重要
這一發展凸顯了在沒有強有力的治理的情況下將人工智慧整合到高風險的軍事和情報工作流程中的實際危險。 CNN (CNN) 所描述的這一事件，人工智慧的幻覺幾乎引發了一場戰爭，強調了自動化系統中人類監督和驗證的迫切需求。參議員呼籲監察長進行調查，這標誌著越來越多的政治共識，即目前國防部門採用人工智慧的速度可能超過了必要安全控制措施的發展速度。這可能會導致國防部內部出現新的監管框架或內部政策變化，以確保人工智慧在動態作戰中的可靠性。
涉及中国货船的事件说明了在没有充分的人工验证的情况下依靠人工智能进行关键情报评估的严重风险。事實上，這一錯誤是在計劃的軍事行動之前才被發現的，這一事實凸顯瞭如果人工智慧幻覺處理不當，可能會造成災難性的外交和軍事後果。该事件是为什么治理和安全控制在高风险人工智能应用中至关重要的具体例子。
对伊朗致命袭击的提及进一步强调了人工智能相关情报失败所造成的人员损失。繞過人工智慧對過時數據的警告表明，當前系統可能無法有效地整合到決策過程中，或者人類操作員可能會忽略關鍵的安全檢查。这引发了关于人工智能定位工作流程的可靠性以及是否需要更强大的监督机制的严重问题。
参议员们呼吁监察长进行调查，这标志着军队中人工智能的政治动态发生了变化。雖然關於人工智慧監管的爭論主導了國會，民主黨人呼籲加強控制，共和黨人警告不要放慢發展速度，但這一事件為有效治理的必要性提供了令人信服的理由。調查結果可能會影響未來的政策決策，並可能導致新的法規或內部協議，以確保人工智慧在軍事行動中的可靠性。
互動機制：它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
接下來看什麼
請留意國防部長皮特·赫格斯和國家情報總監傑伊·克萊頓對參議員信的回應。此外，也要關注監察長是否對所提及的具體事件（包括中國船隻攔截和伊朗攻擊）發起正式調查。這項調查的結果可能會影響國會關於軍隊人工智慧監管的更廣泛辯論，並可能影響五角大廈與 Anthropic 等人工智慧公司之間正在進行的關於在自主武器中使用其模型的談判。
国防部长皮特·赫格斯和国家情报总监杰伊·克莱顿对参议员信的回应将成为政府对军队人工智能治理立场的关键指标。他們的反應可能會揭示他們是否願意配合監察長的調查，或者是否會捍衛目前採用人工智慧的方法。
監察長對信中提到的具體事件啟動正式調查將是一個重大進展。这项调查的范围和结果可以为军事目标工作流程中人工智能相关错误的程度以及当前治理措施的有效性提供有价值的见解。
國會正在進行的關於人工智慧監管的辯論可能會受到這項調查結果的影響。如果調查揭示人工智慧治理的重大失敗，可能會加強更嚴格的監管和更強有力的監督機制的理由。相反，如果调查发现这些事件是孤立的，并且当前的控制措施是有效的，那么它可能会支持继续快速采用人工智能的论点。
五角大廈與Anthropic等AI公司的關係也可能會受到此事件的影響。美国国防部已经与 Anthropic 发生争执，因为该公司拒绝拆除内部安全护栏，这些护栏将阻止军方在自主武器和大规模监视中使用其 Claude 人工智能模型。調查結果可能會影響軍方和人工智慧開發商之間未來的談判和夥伴關係。