Apa yang berlaku
Senator Demokrat menghantar surat kepada Setiausaha Pertahanan Pete Hegseth dan DNI Jay Clayton menuntut siasatan segera ke atas kesilapan berkaitan AI dalam perisikan tentera.
Menurut news.meaww.com, sekumpulan senator Demokrat, termasuk Mark Warner, Jack Reed, dan Chris Coons, menulis kepada Setiausaha Pertahanan Pete Hegseth dan Pengarah Perisikan Kebangsaan Jay Clayton pada 19 September. Surat itu menuntut penyiasatan segera oleh Inspektor Jeneral yang berkaitan terhadap satu siri kesilapan dalam rancangan penyasaran tentera AS yang disebabkan oleh kecerdasan buatan.
Senator memetik insiden khusus di mana laporan pertahanan diedarkan di seluruh tentera AS yang mendakwa kapal China mengangkut komponen program senjata nuklear di Timur Tengah. Surat itu berhujah bahawa agensi telah mengutamakan pecutan penggunaan dan percubaan keupayaan AI berbanding tadbir urus yang berkesan.
Sumber itu menyatakan bahawa CNN sebelum ini melaporkan penganalisis arahan operasi khas bergantung pada AI untuk menjana laporan perisikan ini, yang digambarkan sebagai 'sepenuhnya palsu.' Laporan itu mendorong tentera AS bersiap sedia untuk operasi memintas kapal tersebut. Pegawai hanya mendapati laporan itu dijana AI dan tidak tepat apabila operasi sedang dijalankan, dengan pesawat tentera di udara.
Insiden itu dapat dielakkan, tetapi sumber itu memetik seorang individu sebagai berkata situasi itu 'hampir memulakan perang.' Para senator menyeru agar tahap ketelusan awam yang lebih tinggi dalam penemuan muktamad untuk memulihkan keyakinan orang ramai terhadap misi perisikan dan peperangan.
Butiran sumber: news.meaww.com ↗
Mengapa ia penting
Insiden itu menyerlahkan jurang keselamatan dan tadbir urus kritikal dalam penggunaan AI oleh tentera, di mana analisis automatik hampir membawa kepada tindak balas ketenteraan kinetik berdasarkan data palsu.
Acara ini mewakili peningkatan yang ketara dalam perdebatan mengenai keselamatan AI dalam persekitaran keselamatan negara yang berisiko tinggi. Ia mengalihkan perbualan daripada risiko teori kepada kejadian nyaris yang didokumenkan melibatkan aset ketenteraan kinetik.
Insiden itu menggariskan bahaya 'bias automasi' dalam operasi ketenteraan, di mana pengendali mungkin mempercayai perisikan yang dijana AI tanpa pengesahan manusia yang mencukupi, terutamanya di bawah tekanan masa.
Ia menyerlahkan kegagalan tadbir urus di mana kelajuan penggunaan AI mengatasi pembangunan mekanisme pengawasan dan penyemakan ralat yang diperlukan dalam Jabatan Pertahanan.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Why can ethical evaluation not be reduced to one model score?
Apa yang perlu ditonton seterusnya
Maklum balas daripada Jabatan Pertahanan dan skop penyiasatan Inspektor Jeneral terhadap protokol tadbir urus AI.
Jawapan rasmi daripada Jabatan Pertahanan dan Komuniti Perisikan terhadap surat senator.
Skop dan garis masa penyiasatan Ketua Polis Negara, khususnya sama ada ia akan meneliti amalan integrasi AI yang lebih luas di seluruh tentera.
Perubahan perundangan atau dasar yang berpotensi bertujuan untuk mewajibkan keperluan manusia-dalam-gelung untuk kecerdasan yang dijana AI yang digunakan dalam keputusan penyasaran.