Demokrat menuntut siasatan ke atas intel tentera AI yang rosak

Apa yang berlaku

Sekumpulan senator kanan Demokrat, termasuk Mark Warner, Jack Reed, dan Chris Coons, menghantar surat rasmi pada hari Jumaat menggesa badan pemerhati kerajaan untuk menyiasat kesilapan ketara dalam rancangan penyasaran tentera AS yang disebabkan oleh kecerdasan buatan. Surat itu memetik laporan CNN yang memperincikan insiden di mana seorang penganalisis bergantung kepada AI untuk menghasilkan laporan risikan yang secara palsu mengenal pasti kapal kargo China membawa komponen senjata nuklear. Kesilapan ini menyebabkan tentera AS bersedia untuk operasi pemintasan yang hanya dibatalkan selepas pegawai menyedari laporan yang dijana AI adalah palsu sepenuhnya. Para senator juga merujuk serangan maut Februari di Iran yang mengorbankan hampir 200 orang, yang sumber memberitahu CNN berlaku selepas komander memintas amaran pangkalan data berkuasa AI tentang perisikan yang sudah lapuk. Surat itu menuntut penyiasatan segera oleh Inspektor Negara dengan ketelusan awam, dengan alasan bahawa keutamaan penggunaan AI berbanding tadbir urus telah mewujudkan risiko operasi yang serius.

Sekumpulan senator Demokrat terkemuka, termasuk Mark Warner, Jack Reed, dan Chris Coons, menghantar surat pada hari Jumaat kepada Setiausaha Pertahanan Pete Hegseth dan Pengarah Perisikan Kebangsaan Jay Clayton. Surat itu memerlukan siasatan segera oleh Inspektor Jeneral yang berkaitan terhadap beberapa siri kesilapan dalam rancangan penyasaran tentera AS yang disebabkan oleh kecerdasan buatan. Para senator melahirkan kebimbangan yang semakin meningkat bahawa agensi di bawah pengawasan mereka telah mengutamakan pecutan penggunaan keupayaan AI dan percubaan berbanding tadbir urus yang berkesan.

Surat itu secara khusus memetik laporan CNN mengenai panggilan rapat yang melibatkan kapal China di Timur Tengah. Menurut sumber yang biasa dengan kejadian itu, seorang penganalisis perintah operasi khas bergantung pada AI untuk menghasilkan laporan risikan yang mengenal pasti secara tidak tepat bahan pada kapal kargo China. Laporan itu menyebabkan tentera AS percaya kapal itu mengangkut komponen program senjata nuklear. Tentera mula memudahkan rancangan untuk memintas kapal itu sebelum pegawai menyedari, sejurus sebelum operasi yang dirancang, bahawa laporan itu telah dihasilkan dengan bantuan AI dan adalah palsu sepenuhnya. Satu sumber menyifatkan ini sebagai 'halusinasi' yang bukan merupakan insiden terpencil di seluruh komuniti perisikan sejak penggunaan AI mula berleluasa dalam kerajaan.

Para senator juga merujuk kepada serangan maut AS pada Februari ke atas sebuah sekolah di Minab, Iran, yang mengorbankan hampir 200 kanak-kanak dan orang dewasa. Tiga sumber memberitahu CNN awal tahun ini bahawa mogok itu berlaku selepas komander kanan tentera AS memintas amaran dalam pangkalan data kritikal, termasuk satu yang dikuasakan oleh AI, bahawa risikan tentang sasaran berpotensi di Iran sudah ketinggalan zaman. Surat itu berhujah bahawa laporan awam mengenai platform penyasaran AI yang menjana output palsu berisiko ralat operasi yang serius dan menjejaskan keyakinan terhadap tindakan risikan dan kinetik AS.

Surat itu menuntut Hegseth dan Clayton segera menyiasat perkara itu dan memberikan akses tanpa had kepada pemeriksa am kepada kedua-dua keadaan tahun ini di mana laporan media telah mencadangkan ralat ketara dalam aliran kerja penyasaran yang didayakan AI, serta sebarang kejadian tambahan yang belum dilaporkan secara terbuka. Para senator menekankan keperluan untuk tahap ketelusan awam yang lebih tinggi dalam penemuan muktamad, memandangkan kesan kegagalan yang dirasakan ini terhadap keyakinan orang ramai terhadap misi perisikan dan peperangan.

Butiran sumber: edition.cnn.com ↗

Mengapa ia penting

Perkembangan ini menyerlahkan bahaya nyata untuk mengintegrasikan AI ke dalam aliran kerja ketenteraan dan perisikan yang berkepentingan tinggi tanpa tadbir urus yang mantap. Insiden yang diterangkan oleh CNN, di mana halusinasi AI hampir memulakan perang, menggariskan keperluan kritikal untuk pengawasan dan pengesahan manusia dalam sistem automatik. Gesaan senator untuk siasatan Ketua Negara menandakan konsensus politik yang semakin meningkat bahawa kadar penggunaan AI semasa dalam sektor pertahanan mungkin mengatasi pembangunan kawalan keselamatan yang diperlukan. Ini boleh membawa kepada rangka kerja pengawalseliaan baharu atau perubahan dasar dalaman dalam Jabatan Pertahanan untuk memastikan kebolehpercayaan AI dalam operasi kinetik.

Insiden yang melibatkan kapal kargo China itu menggambarkan risiko teruk bergantung pada AI untuk penilaian risikan kritikal tanpa pengesahan manusia yang mencukupi. Hakikat bahawa kesilapan itu hanya ditangkap sejurus sebelum operasi ketenteraan yang dirancang menyerlahkan potensi akibat diplomatik dan ketenteraan bencana jika halusinasi AI tidak diurus dengan betul. Acara ini berfungsi sebagai contoh konkrit mengapa tadbir urus dan kawalan keselamatan adalah penting dalam aplikasi AI berkepentingan tinggi.

Rujukan kepada serangan maut di Iran menggariskan lagi kos manusia kegagalan perisikan berkaitan AI. Tindakan memintas amaran berkuasa AI tentang data lapuk menunjukkan bahawa sistem semasa mungkin tidak disepadukan dengan berkesan ke dalam proses membuat keputusan, atau pengendali manusia mungkin mengatasi pemeriksaan keselamatan kritikal. Ini menimbulkan persoalan serius tentang kebolehpercayaan aliran kerja penyasaran yang didayakan AI dan keperluan untuk mekanisme pengawasan yang lebih mantap.

Seruan para senator untuk siasatan Ketua Negara menandakan perubahan dalam dinamik politik berkaitan AI dalam tentera. Walaupun perdebatan mengenai peraturan AI telah mendominasi Kongres, dengan Demokrat menyeru kawalan yang lebih ketat dan Republikan memberi amaran terhadap pembangunan yang perlahan, insiden ini memberikan kes yang menarik untuk keperluan untuk tadbir urus yang berkesan. Hasil siasatan boleh mempengaruhi keputusan dasar masa hadapan dan berpotensi membawa kepada peraturan baharu atau protokol dalaman untuk memastikan kebolehpercayaan AI dalam operasi ketenteraan.

Apa yang perlu ditonton seterusnya

Nantikan maklum balas daripada Setiausaha Pertahanan Pete Hegseth dan Pengarah Perisikan Kebangsaan Jay Clayton kepada surat para senator. Selain itu, pantau sama ada Inspektor Jeneral memulakan siasatan rasmi ke atas insiden khusus yang disebut, termasuk pemintasan kapal China dan serangan Iran. Hasil penyiasatan ini mungkin mempengaruhi perbahasan kongres yang lebih luas mengenai peraturan AI dalam tentera dan boleh memberi kesan kepada rundingan berterusan antara Pentagon dan syarikat AI seperti Anthropic mengenai penggunaan model mereka dalam senjata autonomi.

Maklum balas daripada Setiausaha Pertahanan Pete Hegseth dan Pengarah Perisikan Kebangsaan Jay Clayton kepada surat senator akan menjadi penunjuk utama pendirian pentadbiran terhadap tadbir urus AI dalam tentera. Reaksi mereka mungkin mendedahkan sama ada mereka bersedia untuk bekerjasama dengan penyiasatan Ketua Polis Negara atau jika mereka akan mempertahankan pendekatan semasa terhadap penggunaan AI.

Pemulaan siasatan rasmi oleh Ketua Pemeriksa terhadap insiden khusus yang disebut dalam surat itu akan menjadi satu perkembangan penting. Skop dan penemuan penyiasatan ini boleh memberikan pandangan berharga tentang sejauh mana ralat berkaitan AI dalam aliran kerja penyasaran tentera dan keberkesanan langkah tadbir urus semasa.

Perdebatan berterusan di Kongres mengenai peraturan AI mungkin dipengaruhi oleh hasil penyiasatan ini. Jika siasatan mendedahkan kegagalan ketara dalam tadbir urus AI, ia boleh mengukuhkan kes untuk peraturan yang lebih ketat dan mekanisme pengawasan yang lebih teguh. Sebaliknya, jika penyiasatan mendapati bahawa insiden itu terpencil dan kawalan semasa adalah berkesan, ia boleh menguatkan hujah untuk penggunaan AI pantas yang berterusan.

Hubungan antara Pentagon dan syarikat AI seperti Anthropic juga mungkin terjejas oleh kejadian ini. Jabatan Pertahanan telah pun berdebat dengan Anthropic berhubung keengganan syarikat untuk mengalihkan pagar keselamatan dalaman yang akan menghalang tentera daripada menggunakan model AI Claude dalam senjata autonomi dan pengawasan besar-besaran. Hasil siasatan boleh mempengaruhi rundingan dan perkongsian masa depan antara tentera dan pemaju AI.

Panduan & kuiz berkaitan