Ne oldu?
Seul Ekonomik Gazetesi, Ukrayna kuvvetlerinin geçen ay Zaporizhzhia'daki bir benzin istasyonundaki propan tankı tesislerini vurduktan sonra bir Rus insansız hava aracını kurtardığını bildirdi. New York Times'a, Ukraynalı askeri yetkililere, drone ve dijital adli tıp uzmanlarına atıfta bulunan raporda, uçağın harici iletişim için bir anteninin bulunmadığı ve Nvidia'nin Jetson Orin bilgi işlem platformunu taşıdığı belirtiliyor. Bildirilen kanıtlar, dronun, bir insan operatörün nihai hedefi seçmesine gerek kalmadan gezinmek, bir hedefi belirlemek ve saldırmak için yerleşik görüntüleri ve yapay zekayı kullandığını gösteriyor.
Seul Ekonomik Gazetesi, Zaporizhzhia'daki bir benzin istasyonundaki propan tankı tesislerine düzenlenen saldırının ardından Ukrayna güçleri tarafından kurtarılan bir insansız hava aracının Ukraynalı askeri yetkililer ile insansız hava aracı ve dijital adli tıp uzmanları tarafından incelendiğini bildirdi. Kaynak, hesabın The New York Times'ın bu yetkililere ve uzmanlara atıfta bulunan haberlerine dayandığını söylüyor. Sunulan rapor, saldırının geçen ay gerçekleştiğini belirtmenin ötesinde kesin tarihini belirtmiyor ve dronun model adını, seri numarasını veya kamuya açık bir teknik raporu sunmuyor.
Seul Ekonomik Gazetesi'nin hesabına göre, kurtarılan uçağın dışarıyla iletişim kuracak bir anteni yoktu. Bildirildiğine göre, bir bulut bağlantısına bağlı olmak yerine AI iş yüklerini yerel olarak çalıştırmak için tasarlanmış küçük bir bilgi işlem platformu olan Nvidia'nin Jetson Orin'ini taşıyordu. Çıkış, çipin analizinde gemide depolanan şifrelenmemiş arazi görüntülerinin bulunduğunu söylüyor. Bu görüntülerin hedefleri izlemek ve uçağın uçuş yolunu korumak için kullanıldığı bildirilirken, Ukraynalı askeri yetkililer sistemin propan tankları da dahil olmak üzere belirli hedef türlerini tespit etmek ve bunlara saldırmak için eğitildiğini söyledi.
Bildirilen ayrım yapay zeka yardımı ile otonom hedefleme arasındadır. Seul Ekonomik Gazetesi, birçok askeri dronun navigasyon veya hedef takibi için yapay zeka kullandığını, bir insan operatörün ise hedefi seçip girdiğini veya saldırıyı onayladığını söylüyor. Bildirilen vakada, dronun kabaca önceden belirlenmiş bir konuma doğru uçtuğu ve daha sonra doğrudan insan müdahalesi olmadan bir hedefi tespit etmek ve saldırmak için yerleşik yapay zekayı kullandığı değerlendiriliyor. Çıkış, bunu sağlanan makalede bağımsız olarak gösterilen bir bulgu olarak değil, sökme ve ilgili raporlamaya dayalı bir değerlendirme olarak sunmaktadır.
Seul Ekonomik Günlük ayrıca Nvidia yongasını taşıyan devre kartının "Çin Malı" olarak işaretlendiğini ve endüstri gözlemcilerinin Rusya'nın bu bileşeni ikincil piyasada yeniden satış yoluyla elde ettiğine inandığını bildirdi. Nvidia, çıkışa göre Jetson Orin'in öğrencilere, geliştiricilere ve yeni kurulan şirketlere yönelik giriş seviyesi bir ürün olduğunu ve doğrudan Rusya'ya satılmadığını söyledi. Kaynak, insansız hava aracının tamamını kimin yaptığını, hedefleme yazılımını kimin yazdığını, bileşenin nasıl elde edildiğini veya Nvidia'nin askeri kullanımına ilişkin herhangi bir bilgiye sahip olup olmadığını tespit etmiyor.
Kaynak ayrıntıları: en.sedaily.com ↗
Neden önemli?
Hesap doğruysa, bu, genellikle bir insanın hedefi seçtiği veya onayladığı yapay zeka destekli askeri dronlardan önemli bir değişimi temsil edecek. Bu aynı zamanda nispeten kompakt, ticari olarak temin edilebilen uç bilgi işlem donanımının ölümcül bir sistemdeki otonom işlevleri destekleyebileceğini de gösterecektir. Sağlanan rapor, insansız hava aracının tam yazılımını, güvenilirliğini, komuta yapısını, hedef seçim kurallarını veya uluslararası insancıl hukuka uygunluğunu bağımsız olarak belirlemez.
Bildirilen dağıtım önemlidir çünkü ölümcül bir kararın bir insan operatörden yerleşik bir algoritmaya aktarılmasıyla ilgilidir. Geleneksel uzaktan kumandalı sistemler hala ciddi riskler oluşturabilir, ancak hedefi seçme veya onaylama sorumluluğu genel olarak bir insana aittir. Seul Ekonomik Gazetesi, burada açıklanan dronun hem kimlik belirleme hem de saldırı kararlarını kendisinin verdiğinin değerlendirildiğini söylüyor. Bu, özellikle sistem canlı bir iletişim bağlantısı olmadan çalıştığında, farklı düzeyde hesap verebilirlik ve doğrulama endişesi doğuracaktır.
Olay aynı zamanda özerkliğin, halka açık bir AI sistemi olarak pazarlanan amaca yönelik olarak tasarlanmış bir silah platformu yerine ticari olarak temin edilebilen parçalardan nasıl oluşturulabileceğini de gösteriyor. Jetson Orin platformu, Nvidia tarafından öğrenciler, geliştiriciler ve yeni kurulan şirketler için giriş seviyesi bir uç bilgi işlem ürünü olarak tanımlandı. Sağlanan rapor, platformun kendisinin saldırıya neden olduğunu veya silah kullanımı için tasarlandığını göstermiyor; yalnızca bileşenin kurtarılan drone'un içinde bulunduğuna dair satış noktasının hesabını gösteriyor. Daha geniş pratik sorun, sıradan bilgi işlem donanımının, konuşlandırıldıktan sonra davranışlarının izlenmesi zor olan sistemlere yönlendirilip yönlendirilemeyeceğidir.
Öğrenilen verilere dayalı hedef tanıma, raporun çözümsüz bıraktığı operasyonel ve hukuki sorular yaratıyor. Sağlanan hesap, dronun propan tanklarını tanıyacak şekilde eğitildiğini söylüyor ancak eğitim verilerini, hata oranını, çevre koşullarını, yanlış tanımlamaya karşı önlemleri veya sivilleri ve yakındaki nesneleri ele alma prosedürlerini açıklamıyor. Ayrıca hedefin doğru şekilde sınıflandırılıp sınıflandırılmadığı, saldırının bildirilen tesisin ötesinde can kaybına veya hasara yol açıp açmadığı ya da fırlatma öncesinde bir insanın dolaylı bir rolü olup olmadığı belirlenmiyor.
Seul Ekonomik Gazetesi, bazı insansız hava araçlarının 2020'de silahlı savaşçıları ve geri çekilen savaşçıları takip edip onlara saldırdığına dair göstergeleri açıklayan Birleşmiş Milletler'in Libya raporuna atıfta bulunarak, rapor edilen saldırıyı otonom silahlarla ilgili daha uzun bir endişe geçmişine yerleştiriyor. Bu karşılaştırma, Zaporizhzhia insansız hava aracının tamamen özerk olduğunu bağımsız olarak kanıtlamadığı gibi, sistemlerin teknik olarak eşdeğer olduğunu da kanıtlamaz. Burada bildirilen önemli gelişme, iddia edilen gemide hedef tanıma, yerel hesaplama ve görev sırasında doğrudan iletişimin bulunmamasının birleşimidir.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Bundan sonra ne izlenecek?
Bir sonraki önemli adım, kurtarılan uçağın, yazılımının ve saldırı koşullarının bağımsız teknik ve savaş alanında doğrulanmasıdır. Ukraynalı yetkililerden, Rus yetkililerden, bağımsız adli tıp uzmanlarından, uluslararası kuruluşlardan gelecek onayları veya aynı fiziksel kanıtlara dayalı ek raporları izleyin. Ayrıca hükümetlerin ve silah kontrol kurumlarının, otonom silahlar üzerinde anlamlı insan kontrolü ve ticari yapay zeka donanımının saptırılmasına yönelik kontroller için daha net gereksinimlerle yanıt verip vermediğini izleyin.
Doğrulamanın en önemli sorusu, kurtarılan donanımın ve saklanan görüntülerin bağımsız uzmanlar tarafından incelenip incelenemeyeceğidir. Güvenilir bir takip, uçağın sensörlerini, navigasyon sistemini, yazılımını, model ağırlıklarını, iletişim donanımını, görev kayıtlarını ve insan yetkilendirmesine ilişkin her türlü kanıtı açıklığa kavuşturacaktır. Sağlanan kaynak, çipin analiz edildiğini bildiriyor ancak temel adli tıp materyallerini, metodolojisini veya gözetim zincirini yayınlamıyor. Bu eksiklikler, hesaptan çıkarılabilecek sonuçları sınırlandırmaktadır.
Görevdeki insanın rolüne ilişkin kanıtları izleyin. “Tam otonom”, fırlatmadan önce bir hedef kategorisi alan bir sistem, varış noktasında belirli bir nesneyi seçen bir sistem veya fırlatma sonrasında görevini değiştirebilen bir sistem dahil olmak üzere birçok farklı düzenlemeyi ifade edebilir. Kaynak, drone'un önceden belirlenmiş bir konuma gönderildiğini ve ardından seçilip bir hedefe saldırdığını öne sürüyor ancak kişinin hedef kategoriyi onaylayıp onaylamadığını, görüntüleri inceleyip incelemediğini, coğrafi kısıtlamalar getirip getirmediğini veya bir müdahale aracını elinde bulundurup bulundurmadığını açıklamıyor.
Çin işaretli bir kartın ve ticari bir Nvidia platformunun rapor edilen kullanımı, ikincil piyasa tedarik zincirlerinin, ihracat kontrollerinin ve son kullanımın izlenmesinin incelenmesine yol açabilir. Böyle bir inceleme, bir uç bilgi işlem ürününün sıradan yeteneklerini, onu otonom bir silahın parçası haline getirdiği bildirilen spesifik entegrasyon ve yazılımdan ayırmalıdır. Sağlanan makale ihracat kanununun, yaptırımların veya Nvidia politikasının ihlal edildiğini ortaya koymamaktadır.
Son olarak diplomatik ve hukuki tepkileri izleyin. Hükümetler, Birleşmiş Milletler ve silah kontrol grupları, neyin anlamlı insan kontrolü sayılacağını, otonom bir saldırı sonrasında hangi kayıtların saklanması gerektiğini ve bir algoritma bir hedef seçtiğinde sorumluluğun nasıl atanacağını tanımlama konusunda baskıyla karşı karşıya kalabilir. Bağımsız kanıtlar, sistemin yeteneklerini ve Zaporizhia saldırısının koşullarını açıklığa kavuşturuncaya kadar, temel iddia, kesin olarak kanıtlanmış bir gerçek olarak ele alınmak yerine, Seul Ekonomi Gazetesi'nin raporuna ve New York Times'ın bu raporu aktardığını bildirmesine atfedilmelidir.