概述
2026 年 6 月的一份總統備忘錄指示在 90 天內進行進一步更新;截至 2026 年 9 月 26 日,公開的國防部發布清單仍顯示為 2023 年的指令。
深入探討
國防部指令 3000.09「武器系統自主性」於 2023 年 1 月 25 日重新發布。它適用於國防部組織以及自主和半自主武器系統的設計、開發、採購、測試、部署和使用,包括能夠自動選擇目標的導引彈藥。它不是一般性的人工智慧指令:文本排除了自主網路能力、非武裝平台、非導引彈藥、手動導引彈藥、地雷、未爆炸彈藥和非武器自主系統。該指令要求設計自主和半自主武器系統,以便指揮官和操作員能夠對武力進行適當程度的人類判斷。它還需要嚴格的驗證和確認以及現實的測試和評估,以及適合該系統的訓練、條令和戰術。那些授權、指揮或操作武器的人必須謹慎行事,並遵守戰爭法、適用的條約、安全規則和交戰規則。該指令沒有明確禁止自主武器,也沒有要求對每個系統進行相同的高級審查。對於涵蓋的自主武器系統,高級官員在正式開發之前和部署之前都會進行審查和批准。該指令指定了審查官員和四個不需要特定額外高級審查的類別,包括某些沒有自主模式和明確的防禦性反物質用途的半自主系統。其他收購和法律審查要求仍然適用。 2026 年 6 月 5 日,NSPM-11 指示戰爭部長在 90 天內發布更新,並每年進行審查。 2026 年 9 月 26 日檢查的 DoW 官方指令登記冊仍然列出了 2023 年 1 月 25 日公開的 DoDD 3000.09。該備忘錄的方向和已發布的替代內容是不同的;公共記錄並未顯示該檢查日期的更新版本。
現實世界的實施
採購團隊在應用其審查流程之前,會檢查擬議系統是否為武器系統,以及是否屬於指令 3000.09 中列明的排除範圍。
該計畫在真實條件下測試自主武器,並記錄其如何偵測非預期的行為,以及如何解除或停用。
未涵蓋在列明例外情況內的自主系統,在正式開發前以及部署前,均須接受所需的高層審查。
由操作員監督的防禦系統,針對特定的時間關鍵或飽和攻擊,是根據指令的準確例外條款進行評估,而非被視為一般豁免。
國防部指令 3000.09 關於武器系統自主性的未來
NSPM-11 將更新和年度審查設為當前的行政指令。公開的國防部登記冊仍顯示 2023 年文本,並未確定內部或機密工作是否已完成。讀者應檢查官方登記冊以查看已發布的變更,並區分總統的截止日期與已頒布或發布的替代政策。讀者應檢查官方發布登記冊以查看已簽署的繼任文件,並註明其生效日期。在出現公開修訂之前,將 NSPM-11 描述為更新指令,並引用 2023 年文本作為公開指令。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是國防部指令 3000.09 關於武器系統自主性?
國防部指令 3000.09,最後公開列為 2023 年 1 月 25 日發布,制定了關於自主及半自主武器系統的部門政策,包括適當的人類判斷、測試與審查。2026 年 6 月的一份總統備忘錄指示在 90 天內進行進一步更新;截至 2026 年 9 月 26 日,公開的國防部發布清單仍顯示為 2023 年的指令。
2023 年指令規範什麼?
其所述範圍涵蓋國防部自主及半自主武器系統的設計、測試、部署和使用。
指令如何定義自主武器系統?
詞彙表根據系統在啟動後無需操作員進一步干預即可選擇並攻擊目標的能力來定義該系統。
適用於自主及半自主武器系統的設計原則是什麼?
指令要求設計必須允許指揮官和操作員對武力施加適當程度的人類判斷。
哪項能力明確不在指令範圍之內?
第 1.1(b) 節排除了自主或半自主的網路空間能力。
對於涵蓋的自主武器,指令的額外高層審查通常何時需要?
涵蓋系統在正式開發及部署前,須經過高層審查,但符合特定例外情況者除外。