Apa yang berlaku
Technology.org melaporkan bahawa Perdana Menteri Andy Burnham dan Presiden Volodymyr Zelenskiy menandatangani perkongsian UK-Ukraine di Kyiv yang memfokuskan pada pembangunan alat AI untuk pertahanan dan keselamatan. Laporan itu mengatakan Britain adalah rakan kongsi antarabangsa pertama yang diberikan akses kepada Makmal AI Avengers Ukraine, yang menggunakan data medan perang yang dikaitkan dengan sistem DELTA.
Technology.org melaporkan bahawa Britain dan Ukraine menandatangani perkongsian pada hari Isnin untuk bersama-sama membangunkan alat kecerdasan buatan untuk pertahanan dan keselamatan. Laporan itu mengenal pasti Andy Burnham dan Volodymyr Zelenskiy sebagai penandatangan dan berkata perjanjian itu memberikan penyelidik British akses kepada platform data medan perang Ukraine yang digunakan untuk melatih sistem AI tentera. Technology.org mempersembahkan Britain sebagai rakan antarabangsa pertama yang menerima akses kepada Avengers AI Labs. Butiran ini datang daripada laporan sekunder dan tidak disahkan secara bebas dalam bahan yang disediakan di sini.
Technology.org berkata Avengers Labs dibina berdasarkan set data beranotasi kira-kira 5 juta imej medan perang, diambil sebahagian besarnya daripada sistem pengurusan medan perang dan kesedaran situasi DELTA yang dibangunkan di dalam negara Ukraine. Laporan itu mengatakan platform itu menerima bahan daripada beribu-ribu kamera siang hari dan sensor inframerah yang diletakkan di seluruh barisan hadapan. Objek yang dilaporkan termasuk kereta kebal, artileri, sistem pertahanan udara, infantri dan sasaran udara seperti dron Shahed dan kenderaan udara tanpa pemandu peninjau. Laporan itu mencirikan set data sebagai bahan medan perang sebenar dan bukannya data simulasi, dikikis atau sintetik.
Laporan itu selanjutnya mengatakan bahawa model yang dilatih mengenai data sudah mengendalikan sistem pengesanan sasaran automatik yang memproses lebih daripada 100,000 suapan video dron setiap bulan. Technology.org melaporkan bahawa sistem mengenal pasti kira-kira 70% sasaran musuh dalam masa nyata. Perkataan itu tidak menetapkan maksud "mengenal pasti" secara operasi, cara peratusan dikira, jenis sasaran yang disertakan, atau sama ada angka itu mewakili ketepatan, ingat semula atau ukuran lain. Tiada keputusan ujian bebas, metodologi atau rekod penggunaan disediakan dalam sumber.
Menurut Technology.org, perkongsian itu bermula dengan dua projek perintis. Seseorang akan memeriksa kabel gentian optik sebagai penderia yang didayakan AI untuk melindungi kemudahan tentera. Yang lain akan menyelidik cip AI berkuasa rendah untuk dron dan sistem autonomi, menangani kekangan pengkomputeran dan tenaga yang mengehadkan autonomi onboard. Laporan itu meletakkan perjanjian itu dalam Perkongsian 100 Tahun UK-Ukraine yang lebih luas dan mengatakan ia menyatukan universiti, penyelidik, syarikat teknologi, jurutera dan pakar ketenteraan. Ia juga menerangkan keputusan British yang berasingan untuk membenarkan MBDA mengeluarkan maklumat sulit tentang komponen yang digunakan dalam peluru berpandu jelajah SCALP, supaya barisan pengeluaran boleh ditubuhkan di Ukraine.
Butiran sumber: technology.org ↗
Mengapa ia penting
Sekiranya angka yang dilaporkan dan susunan capaian adalah tepat, perjanjian itu akan memberikan penyelidik British akses langsung yang luar biasa kepada data ketenteraan operasi untuk pembangunan AI. Ia juga menimbulkan persoalan praktikal tentang penilaian model, kawalan manusia, tadbir urus data dan penggunaan set data yang diperolehi pertempuran dalam sistem autonomi masa hadapan.
Susunan akses yang dilaporkan penting kerana AI ketenteraan yang berguna sangat bergantung pada data yang mencerminkan keadaan operasi sebenar. Set data yang dikumpul semasa perang intensiti tinggi mungkin mengandungi contoh sukar yang tidak terdapat dalam penanda aras makmal biasa, termasuk cuaca yang berbeza-beza, rupa bumi yang berubah-ubah, penyamaran, peralatan yang rosak dan objek yang tidak dikenali. Jika penyelidik British boleh melatih atau menilai sistem pada bahan tersebut tanpa menerima pangkalan data sensitif yang mendasari, susunan itu boleh menyediakan model untuk kerjasama terkawal antara kerajaan dan institusi penyelidikan. Technology.org melaporkan bahawa platform Ukraine telah direka untuk menyokong latihan model selamat tanpa akses terus kepada pangkalan data asas, tetapi sumber itu tidak mengesahkan secara bebas cara perlindungan itu berfungsi.
Perjanjian itu juga menggambarkan bagaimana pengalaman medan perang boleh membentuk pembangunan AI. Juruterbang yang dilaporkan menyambungkan dua bahagian timbunan teknologi yang berbeza: penderiaan dan pengkomputeran. Penderiaan gentian optik boleh membantu mengesan aktiviti di sekitar kemudahan ketenteraan, manakala cip berkuasa rendah boleh membenarkan dron dan sistem autonomi memproses maklumat lebih dekat ke tempat ia dikumpulkan. Itu adalah masalah kejuruteraan praktikal, bukan hanya persoalan keupayaan model. Ia melibatkan penggunaan tenaga, kebolehpercayaan komunikasi, ketahanan perkakasan, kependaman, penyelenggaraan dan akibat daripada klasifikasi yang salah.
Kepentingan awam adalah luar biasa tinggi kerana data yang dilaporkan terikat dengan penyasaran tentera. Technology.org berkata pegawai Ukraine telah menyifatkan matlamat itu sebagai pengesanan yang lebih pantas dan keputusan yang lebih bermaklumat daripada mengeluarkan manusia daripada gelung. Niat yang dinyatakan itu tidak dengan sendirinya menunjukkan cara sistem digunakan dalam amalan. Alat yang mengenal pasti objek, mengutamakan makluman atau mengesyorkan tindakan masih boleh mempengaruhi keputusan yang membawa maut walaupun manusia secara rasmi mengekalkan kuasa. Sumber itu tidak menerangkan tahap semakan manusia yang diperlukan, rantaian arahan, peraturan untuk output yang dipertikaikan atau prosedur untuk membetulkan kesilapan.
Kerjasama yang dilaporkan juga mungkin menjejaskan hubungan antara penyelidikan pertahanan dan pembangunan AI awam. Technology.org berhujah bahawa penderiaan gentian optik dan inferens kuasa rendah boleh mempunyai aplikasi dalam pemantauan infrastruktur kritikal dan pengkomputeran tepi. Kemungkinan limpahan tersebut adalah kawasan yang munasabah untuk tindakan susulan, tetapi laporan itu tidak memberikan penempatan awam, ujian prestasi atau perjanjian pengkomersilan. Oleh itu, kepentingan segera ialah pemindahan data operasi, kepakaran dan kapasiti kejuruteraan ke dalam program AI pertahanan bersama, dan bukannya manfaat awam yang ditunjukkan.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Apa yang perlu ditonton seterusnya
Ujian utama ialah sama ada perkongsian itu menghasilkan juruterbang yang diterangkan secara terbuka, cara akses kepada data sensitif ditadbir dan sama ada prestasi pengesanan sasaran yang dilaporkan berada di luar keadaan di mana model itu dibangunkan. Sumber tidak menetapkan perlindungan penuh perjanjian, peraturan penggunaan atau keputusan penilaian bebas.
Isu pertama yang perlu diperhatikan ialah sama ada kerajaan menerbitkan akaun yang lebih jelas tentang tadbir urus perjanjian itu. Perkara yang tidak diketahui penting termasuk siapa yang boleh mengakses platform, sama ada penyelidik British boleh mengalih keluar model terlatih atau set data terbitan, cara contoh sensitif disunting dan sama ada akses terhad kepada institusi yang diluluskan. Sumber itu berkata teks perjanjian penuh dan skop perintis tersedia dalam pengumuman kerajaan, tetapi teks yang dibekalkan di sini tidak menetapkan peruntukan tersebut secara bebas.
Isu kedua ialah pengesahan teknikal. Angka yang dilaporkan kira-kira 70% pengenalpastian sasaran merentas lebih daripada 100,000 suapan video bulanan berpotensi penting, tetapi ia tidak mencukupi untuk menilai keselamatan atau kegunaan operasi. Pelaporan susulan harus mencari definisi kelas sasaran, kadar positif palsu dan negatif palsu, prestasi merentas cuaca dan rupa bumi, bahagian suapan yang disemak oleh manusia dan sama ada keputusan diukur secara prospektif atau retrospektif. Ia juga harus menjelaskan sama ada angka tersebut digunakan untuk pengesanan sahaja atau pada aliran kerja penyasaran yang lebih besar.
Isu ketiga ialah sempadan antara sokongan keputusan dan autonomi. Juruterbang cip berkuasa rendah boleh memudahkan untuk menjalankan AI secara langsung pada dron atau sistem autonomi lain, mengurangkan pergantungan pada komunikasi jauh. Itu mungkin meningkatkan daya tahan dan masa tindak balas, tetapi ia juga boleh meningkatkan kelajuan dan skala keputusan yang dibuat di bawah ketidakpastian. Sumber itu tidak mengatakan bahawa perkongsian itu akan membenarkan senjata autonomi, dan juga tidak menerangkan sebarang penggunaan senjata tertentu. Pelaporan tidak seharusnya membuat kesimpulan sama ada hasil daripada kewujudan juruterbang.
Akhir sekali, pemerhati harus melihat bukti bahawa perkongsian itu menghasilkan keputusan yang konkrit dan bukannya kekal sebagai perjanjian rangka kerja. Kemas kini berguna akan termasuk institusi yang dinamakan, protokol penilaian yang diterbitkan, keputusan perolehan atau penggunaan, kegagalan yang didokumenkan, audit bebas dan penjelasan tentang cara pengendali mencabar atau mengatasi output model. Sumber itu juga tidak jelas sama ada akses yang dilaporkan sudah beroperasi untuk penyelidik British atau bergantung pada kelulusan kemudian. Sehingga soalan itu dijawab, perjanjian itu paling baik difahami sebagai kerjasama berbangkit dengan skop yang dilaporkan, bukan sebagai bukti bahawa sistem AI medan perang boleh dipercayai atau selamat.