發生了什麼事
民主黨參議員致函國防部長皮特·赫格斯和國家情報總監傑伊·克萊頓，要求立即調查軍事情報中與人工智慧相關的錯誤。
根據news.meaww.com報道，包括馬克華納、傑克里德、克里斯庫恩斯在內的一批民主黨參議員9月19日致函國防部長皮特赫格斯和國家情報總監傑伊克萊頓。信中要求相關監察長立即對人工智慧造成的美軍目標計畫中的一系列錯誤進行調查。
參議員們引用了一個具體事件，即一份國防報告在美國軍方流傳，聲稱中國船隻正在中東運輸核武計畫的零件。這封信認為，各機構將加速人工智慧能力的採用和實驗置於有效治理之上。
消息人士指出，CNN 此前曾報道稱，一名特種作戰指揮分析師依靠人工智慧生成了這份情報報告，該報告被描述為「完全錯誤」。該報告促使美軍準備攔截船隻的行動。官員們只是在行動已經開始、軍用飛機在空中飛行時才發現該報告是人工智慧生成的且不準確。
事件勉強避免，但消息人士引述一位人士的話說，這種情況「幾乎引發了一場戰爭」。參議員呼籲最終調查結果提高公眾透明度，以恢復公眾對情報和作戰任務的信心。
為什麼這很重要
這起事件突顯了軍隊在採用人工智慧方面存在的關鍵安全和治理差距，其中自動分析幾乎導致了基於虛假數據的動態軍事反應。
這一事件標誌著高風險國家安全環境中人工智慧安全爭論的顯著升級。它將話題從理論上的風險轉移到了涉及動能軍事資產的有記錄的險些發生的風險。
這起事件凸顯了軍事行動中「自動化偏見」的危險，操作員可能會在沒有充分人工驗證的情況下信任人工智慧產生的情報，特別是在時間壓力下。
它凸顯了治理失敗，即人工智慧採用的速度超過了國防部內必要的監督和錯誤檢查機制的發展。
互動機制：它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
Why can ethical evaluation not be reduced to one model score?
接下來看什麼
國防部的回應以及監察長對人工智慧治理協議的調查範圍。
國防部和情報界對參議員信函的正式回應。
監察長調查的範圍和時間表，特別是是否會審查整個軍隊更廣泛的人工智慧整合實踐。
潛在的立法或政策變化旨在對用於目標決策的人工智慧產生的情報提出人機互動要求。