Apa yang terjadi
Rappler melaporkan bahwa Perdana Menteri Inggris Andy Burnham dan Presiden Ukraina Volodymyr Zelenskyy menandatangani perjanjian di Kyiv pada tanggal 24 Agustus. Kemitraan ini memberi para peneliti Inggris akses ke Lab Avengers AI Ukraina, yang menurut Ukraina dibangun dengan menggunakan 5 juta gambar medan perang dan data beranotasi dari sistem tempur DELTA-nya. Proyek awal akan mencakup sensor serat optik berkemampuan AI untuk melindungi fasilitas militer dan chip AI berdaya rendah untuk drone dan sistem otonom.
Rappler, mengutip Reuters, melaporkan bahwa Inggris dan Ukraina menandatangani kemitraan bilateral di Kyiv pada 24 Agustus untuk bersama-sama mengembangkan alat kecerdasan buatan untuk pertahanan dan keamanan. Perjanjian tersebut ditandatangani oleh Perdana Menteri Inggris Andy Burnham dan Presiden Ukraina Volodymyr Zelenskyy. Rappler mengatakan pemerintah Inggris menggambarkan pengaturan tersebut menjadikan Inggris sebagai mitra internasional pertama yang mengakses Lab AI Avengers milik Ukraina.
Menurut laporan tersebut, Avengers AI Labs dibangun berdasarkan kumpulan data beranotasi yang terdiri dari 5 juta gambar medan perang. Kementerian Pertahanan Ukraina mengatakan gambar-gambar tersebut sebagian besar diambil dari DELTA, sistem manajemen medan perang dan kesadaran situasional Ukraina. Rappler melaporkan bahwa DELTA menggabungkan informasi yang dikumpulkan dari kamera dan sensor di seluruh medan perang Ukraina, termasuk data tentang tank, sistem artileri, drone, dan target militer lainnya.
Kementerian Ukraina mengatakan model AI yang dilatih berdasarkan data tersebut sudah digunakan dalam sistem deteksi target otomatis. Rappler melaporkan klaim kementerian bahwa sistem tersebut menganalisis lebih dari 100.000 video drone setiap bulan dan dapat mengidentifikasi sekitar 70% target musuh secara real time. Angka-angka tersebut merupakan klaim yang dikaitkan dengan kementerian; laporan yang diberikan tidak memberikan pengujian independen, metodologi, garis dasar, atau rincian tentang bagaimana “target musuh” dan keberhasilan identifikasi diukur.
Proyek percontohan awal kemitraan ini dilaporkan mencakup teknologi yang menggunakan kabel serat optik sebagai sensor berkemampuan AI untuk membantu melindungi fasilitas militer, serta penelitian chip AI berdaya rendah untuk drone dan sistem otonom. Rappler mengatakan pemerintah Inggris mengharapkan upaya ini dapat mempertemukan para peneliti, insinyur, perusahaan teknologi, dan pakar militer dari kedua negara. Laporan tersebut juga menempatkan perjanjian tersebut dalam hubungan pertahanan Inggris yang lebih luas dengan Ukraina, termasuk proposal terpisah yang melibatkan informasi rahasia mengenai komponen buatan Inggris yang digunakan dalam rudal jelajah SCALP, namun laporan tersebut tidak mengatakan bahwa pengaturan terkait rudal ini merupakan bagian dari perjanjian AI. Laporan tersebut menyajikan item-item ini sebagai proyek awal dan tidak menjelaskan penerapan yang telah selesai atau hasil operasional dari proyek tersebut.
Mengapa itu penting
Perjanjian tersebut menghubungkan data medan perang yang dikumpulkan selama perang Rusia di Ukraina dengan penelitian pertahanan gabungan Inggris-Ukraina. Jika kemampuan yang dilaporkan berfungsi seperti yang diklaim, kemitraan ini dapat memengaruhi cara organisasi militer menggunakan AI untuk mendeteksi target, pengawasan, perlindungan infrastruktur, dan sistem otonom. Hal ini juga menimbulkan pertanyaan tentang tata kelola data, pengawasan manusia, keandalan model, dan transfer teknologi yang berasal dari pertempuran ke negara lain.
Kesepakatan yang dilaporkan ini penting karena menghubungkan pengembangan AI dengan data operasional militer yang dihasilkan selama perang aktif. Data medan perang dapat mengungkap pola yang sulit direproduksi dalam lingkungan laboratorium biasa, termasuk perubahan medan, cuaca, peralatan, dan taktik. Akses terhadap data tersebut dapat membantu peneliti merancang sistem untuk mengenali objek, memprioritaskan pengamatan, atau mendukung keputusan dalam kondisi sulit. Namun sumber tersebut tidak menyatakan bahwa kemitraan ini akan menghasilkan kemampuan operasional baru atau bahwa sistem apa pun yang dikembangkan Inggris telah memasuki layanan.
Perjanjian tersebut juga menggambarkan bagaimana kemitraan AI militer dapat dibangun berdasarkan akses data, bukan hanya pada pengadaan perangkat lunak atau perangkat keras. Pengalaman Ukraina yang dilaporkan dengan DELTA dan umpan drone dapat memberikan lingkungan pengujian yang praktis, sementara peneliti dan perusahaan Inggris dapat menyumbangkan keahlian teknik, chip, sensor, atau integrasi sistem. Pengaturan tersebut dapat mempercepat pembangunan, namun hal ini juga menimbulkan pertanyaan mengenai kepemilikan, keamanan, privasi, kontrol ekspor, dan tanggung jawab atas kesalahan sebagai hal yang penting dalam kemitraan ini.
Angka deteksi target yang dilaporkan berpotensi memiliki konsekuensi tetapi masih belum terverifikasi dalam materi yang diberikan. Klaim bahwa suatu sistem mengidentifikasi sekitar 70% target tidak dengan sendirinya menunjukkan seberapa sering sistem menghasilkan positif palsu, meleset dari target yang sulit, bekerja di lingkungan yang berbeda, atau memengaruhi keputusan manusia. Pemrosesan lebih dari 100.000 video feed per bulan juga tidak membuktikan bahwa sistem tersebut akurat, otonom, atau aman untuk digunakan dalam operasi mematikan. Perbedaan tersebut sangat penting ketika keluaran AI dapat mempengaruhi tindakan militer.
Dampak praktisnya terhadap masyarakat akan bergantung pada bagaimana sistem tersebut digunakan dan dikelola. Penginderaan yang dibantu AI dapat membantu melindungi fasilitas militer atau mengurangi beban analis, namun kegagalan dapat menyebabkan kesalahan klasifikasi objek, mengabaikan ancaman, atau mendorong kepercayaan berlebihan terhadap rekomendasi otomatis. Laporan ini tidak menjelaskan peraturan kemitraan mengenai tinjauan manusia, kemampuan audit, akuntabilitas, atau batasan tindakan otonom. Itu adalah hal-hal yang tidak diketahui, bukan rincian yang dapat disimpulkan dari pengumuman tersebut.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Apa yang harus ditonton selanjutnya
Permasalahan utamanya adalah apakah kemitraan ini menghasilkan sistem yang diterapkan, data dan fasilitas apa yang dapat diakses oleh Inggris, dan bagaimana negara-negara tersebut akan menguji dan mengatur AI yang digunakan dalam lingkungan militer. Laporan tersebut tidak memberikan teks lengkap perjanjian, jadwal proyek, pengaturan pendanaan, aturan untuk berbagi data medan perang yang sensitif, atau validasi independen atas klaim kinerja Ukraina.
Prioritas pertama adalah implementasi perjanjian tersebut. Sumber tersebut mengidentifikasi daerah percontohan namun tidak memberikan jadwal, anggaran, perusahaan yang berpartisipasi, target pelaksanaan atau kriteria untuk memutuskan apakah suatu proyek berhasil. Pelaporan tindak lanjut harus menentukan apakah pekerjaan tersebut masih pada tahap penelitian, dipindahkan ke uji coba lapangan, atau menghasilkan sistem yang digunakan dalam operasi militer sebenarnya.
Akses ke Avengers AI Labs dan data yang mendasarinya juga memerlukan pengawasan. Laporan tersebut mengatakan Inggris akan mendapatkan akses ke platform Ukraina, namun tidak menentukan apakah itu berarti akses ke data mentah medan perang, kumpulan data terpilih, keluaran model, lingkungan penelitian, atau hanya proyek bersama. Pengungkapan di masa depan harus memperjelas siapa yang mengontrol data, bagaimana informasi sensitif dilindungi, apakah data dapat ditransfer atau digunakan kembali, dan bagaimana negara akan menangani informasi tentang warga sipil atau lokasi di luar fasilitas militer.
Evaluasi independen akan penting untuk kemampuan deteksi target otomatis yang dilaporkan. Bukti yang berguna akan mencakup rangkaian pengujian yang jelas, tingkat kesalahan, kinerja di seluruh lingkungan, perbandingan dengan analis manusia, dan informasi tentang bagaimana sistem berperilaku ketika kualitas data berubah. Sumber tersebut tidak memberikan rincian apapun, sehingga angka 70% yang dikeluarkan Kementerian Pertahanan Ukraina harus dianggap sebagai klaim yang dikaitkan dan bukan sebagai hasil kinerja yang sudah ditetapkan.
Proyek sensor serat optik dan chip berdaya rendah harus diawasi untuk mengetahui bukti penerapan praktis dan perlindungannya. Belum jelas apakah teknologi serat optik akan mendeteksi pergerakan, getaran, atau sinyal lain, atau bagaimana AI akan menafsirkan sinyal tersebut di lapangan. Juga masih belum jelas jenis drone atau sistem otonom apa yang akan didukung chip tersebut dan apakah dimaksudkan untuk penginderaan, navigasi, penargetan, atau fungsi lainnya. Kesepakatan lengkap, catatan pengadaan barang dan jasa pemerintah, evaluasi teknis, dan pernyataan mengenai pengendalian manusia akan memperjelas ruang lingkup dan risiko kemitraan ini.