Rusya'nın yapay zeka destekli tam otonom bir İHA'sı Ukrayna'nın Zaporijya kentinde üç sivilin ölümüne yol açtı; saldırı, insan müdahalesi olmadan hedef seçebilen otonom silahları yeniden gündeme getirdi.
- Saldırı, 6 Temmuz'da gerçekleşti; İHA, benzin istasyonuna yönelirken bir duvara çarparak patladı ve üç sivil hayatını kaybetti.
- Enkazda bulunan Nvidia Jetson Orin modülü, İHA'nın tamamen otonom yapay zeka ile yönlendirildiğini doğruladı; sistem, hedefi kendi seçti.
- Bu olay, savaşta yapay zekanın insan kontrolünden çıkmasıyla ilgili etik ve hukuki tartışmaları alevlendirdi.
Ukraynalı askeri yetkililer, İHA uzmanları ve adli ekiplerin incelemelerine göre, İHA deneysel bir yapay zeka sistemi tarafından otonom şekilde yönlendiriliyordu. İnsan operatörler yalnızca İHA'ya benzin istasyonu bölgesine ilerlemesi talimatını verdi; ancak İHA hedef bölgeye yaklaştığında vuracağı kesin noktayı kendisi belirledi. Uzmanlar, sistemin eğitiminde tanımlanan propan tüplerini hedef almış olabileceğini düşünüyor. Enkazda bulunan Nvidia Jetson Orin mini bilgisayar modülü, birkaç yüz dolara satılan ve çeşitli Rus silahlarında kullanılan bir ürün. Nvidia, bu ürünü Rusya'da doğrudan satmıyor ancak farklı ülkelerdeki satıcılar üzerinden temin edilebiliyor. İHA'nın şifrelenmemiş modülü, yüklü arazi görüntüleri ve kodlar incelendiğinde, sistemin görsel işaretleri takip ederek rota koruyabildiği ve propan tüpleri gibi belirli nesneleri tanıyıp saldıracak şekilde eğitildiği ortaya çıktı. Makine öğrenimi sistemleri, büyük veriden örüntüler çıkararak kendi karar kurallarını oluşturuyor; bu da öngörülemezlik yaratıyor. Rusya ve Ukrayna daha önce de İHA'larda yapay zeka kullanıyordu, ancak bu sistemlerde hedef genellikle insan operatör tarafından belirleniyordu. Yeni sistemlerde ise son karar da yapay zekaya bırakılıyor. Uluslararası insan hakları kuruluşları, insan müdahalesi olmadan çalışan silah sistemlerine karşı çıkıyor; zira yapay zeka sivillerle savaşanları ayırt edemeyebilir veya uluslararası hukuka aykırı kararlar verebilir. Bazı uzmanlar ise yapay zekanın hedefi görerek karar vermesinin, güdümsüz bombalara kıyasla daha kontrollü olabileceğini savunuyor. Rusya, otonom İHA'ları farklı modellerde test ediyor; Molniya ve V2U İHA'larında yapay zeka yönlendirmesi denendi. Zaporijya'daki saldırıda kullanılan İHA, yaklaşık altı araçtan oluşan bir grubun parçasıydı ve hiçbiri radarla tespit edilemedi.
Bu olay, otonom silah sistemlerinin savaş alanında yaygınlaşmasının önünü açabilecek bir dönüm noktası niteliği taşıyor. Yapay zekanın hedef seçiminde insan kontrolünün devre dışı kalması, uluslararası toplumda silah kontrolü ve etik kurallar konusunda acil tartışmaları zorunlu kılıyor. NATO ve müttefik ülkeler, bu tür sistemlerin caydırıcılık ve savunma stratejilerine etkisini değerlendirmek zorunda kalacak.
İHA / SİHA rehberi Savunma sanayi ihracat verileri Tüm haberler
Tam Metin
Ukrayna’nın Zaporijya kentinde düzenlenen bir Rus İHA saldırısı, savaş alanında yapay zekanın insan kontrolünden ne ölçüde çıkabileceğine ilişkin endişeleri alevlendirdi. Tamamen yapay zeka tarafından kontrol edildiği belirlenen ve hedef seçimini kendi başına yapabilen İHA’nın yaptığı saldırıda üç sivil hayatını kaybetti.
Yapay zeka hedefi kendi seçti. 6 Temmuz’da gerçekleşen saldırıda küçük, daha çok model uçağa benzeyen bir Rus İHA’sı bir benzin istasyonuna doğru ilerledi. İHA, istasyona ulaşmaya çalışırken yakındaki bir binanın çevresinden geçemedi ve duvara çarparak patladı. Saldırıda 3 sivil hayatını kaybetti.
Ukraynalı askeri yetkililer, İHA uzmanları ve saldırının ardından enkazı inceleyen adli ekiplerin değerlendirmelerine göre İHA, deneysel bir yapay zeka sistemi tarafından otonom şekilde yönlendiriliyordu. Sistemin çalışma şekli, önceki İHA'lardan önemli ölçüde farklıydı. İnsan operatörler İHA'ya belirli bir bölgeye, yani benzin istasyonuna doğru ilerlemesi için talimat verdi. Ancak İHA hedef bölgeye yaklaştığında vuracağı kesin noktayı kendisi belirledi.
Uzmanlar, sistemin eğitiminde tanımlanan nesneler arasında yer alan propan tüplerini hedef almış olabileceğini düşünüyor. Enkazda Nvidia çipi bulundu. Saldırıdan ve diğer olaylardan geriye kalan İHA parçalarının incelenmesi, sistemin içerisinde Nvidia tarafından üretilen Jetson Orin mini bilgisayar modüllerinin bulunduğunu ortaya çıkardı.
Ukrayna hava savunma yetkilileri, İHA'larda anten bulunmamasının yanı sıra Nvidia modüllerinin tespit edilmesinin sistemlerin otonom yapay zeka kullandığı yönündeki şüpheleri güçlendirdiğini belirtti. Daha sonraki incelemeler de bu değerlendirmeyi destekledi. Nvidia, incelenen parçaların Jetson Orin bilgisayarı olduğunu doğruladı.
Birkaç yüz dolara satılan bu modüller, çeşitli Rus silahlarında da bulundu. Nvidia bu ürünü Rusya’da doğrudan satmıyor ancak bilgisayarın farklı ülkelerdeki satıcılar üzerinden temin edilebildiği belirtiliyor.
İHA neyi hedefleyeceğini görüntülerden öğrendi. Ukraynalı yetkililer, saldırıda kullanılan Nvidia modülünün şifrelenmemiş olduğunu ve bu sayede bilgisayara yüklenen arazi görüntülerini inceleyebildiklerini söyledi. Bu görüntüler, İHA'nın görsel işaretleri takip ederek rotasını koruyabildiğini ortaya koydu.
Yetkililer ayrıca sistemdeki kodları da inceledi. Kodlar, İHA'nın hangi nesneleri tanıyacak ve saldıracak şekilde eğitildiğine ilişkin bilgiler içeriyordu. Bunlar arasında propan tüpleri gibi belirli hedefler bulunuyordu. Yapay zeka sistemleri, binlerce görüntü üzerinden belirli nesne kategorilerini tanımayı öğrenebiliyor.
Kamerasından gelen görüntüleri analiz eden İHA, eğitim sırasında öğrendiği nesneleri arayarak hedef seçebiliyor. Bu teknoloji, geleneksel yazılımlardan farklı çalışıyor. Klasik yazılımda bilgisayarın izleyeceği kurallar insanlar tarafından adım adım belirlenirken makine öğrenimi sistemleri büyük miktardaki veriden örüntüler çıkararak kendi karar kurallarını oluşturuyor.
Bu, daha önce karşılaşılmamış senaryolara cevap verilebilmesini sağlıyor. Bununla birlikte sistemin her koşulda nasıl davranacağını önceden kesin olarak bilmek de mümkün olmuyor. İnsan kontrolü devreden çıkıyor. Rusya ve Ukrayna, tamamen otonom sistemlerden önce de İHA'larda yapay zekadan yararlanıyordu.
Her iki tarafın da bu İHA’ları kullanarak çok sayıda sivil ve askeri zaiyata neden oldu. Bu sistemlerde yapay zeka genellikle saldırının “son aşamasında” kullanılıyordu. Hedef ise uzaktaki insan operatör tarafından belirleniyordu. Yeni sistemlerde ise bu son karar da yapay zekaya bırakılıyor.
Böylece İHA'nın hedefi belirlemesi için saldırının son aşamasında insan operatöre ihtiyaç kalmıyor. Bu durum, yapay zekanın savaşta kullanımına ilişkin tartışmaları gündeme getiriyor. Uluslararası insan hakları kuruluşları insan müdahalesi olmadan çalışan silah sistemlerine karşı çıkıyor.
Eleştirilerin temelinde, yapay zekanın sivillerle savaşanları ayırt edememesi veya uluslararası savaş hukukuna uygun olmayan kararlar verebilmesi bulunuyor. Buna karşılık bazı uzmanlar, yapay zekanın silah sistemlerini daha güvenli hale getirebileceğini savunuyor.
Bu görüşe göre hedefi görerek saldırıdan önce karar verebilen bir sistem, hedefi görmeden ilerleyen güdümsüz bombalara veya klasik top mermilerine kıyasla daha kontrollü olabilir. Bu alandaki görüşler, savaşın ne tarafında ve üretimin hangi ayağında olduğunuza göre değişiyor.
Rusya otonom İHA'ları test ediyor. Ukraynalı hava savunma uzmanlarına göre Rusya, yapay zeka destekli İHA'larını farklı modeller üzerinde test ediyor. Sabit kanatlı Molniya İHA'larının yapay zeka yönlendirmesiyle yapılan testleri mayıs ayında başladı.
V2U adı verilen başka bir sabit kanatlı İHA'da ise otonom hedef belirleme sistemleri test edildi. Zaporijya’daki ölümcül saldırıda kullanılan İHA'nın yaklaşık altı araçtan oluşan bir grubun parçası olduğu bildirildi.
Bölgesel askeri yönetim, kent hava savunma komutanlığı ve o sırada görev yapan hava savunma ekibine göre İHA'ların hiçbiri radyo sinyali yaymıyordu. Dronların dalgalar halinde fırlatılması da Rusya'nın otonom yapay zeka testlerinde görülen özelliklerle örtüşüyordu.
Ukrayna da benzer teknolojiyi deniyor. Otonom hedefleme teknolojisini yalnızca Rusya test etmiyor. Eski Ukrayna Savunma Bakanı Mykhailo Fedorov, Ukrayna'nın son aylarda Rus işgali altındaki Kırım'da tamamen otonom yapay zeka sistemi denediğini açıkladı.
Fedorov'a göre bu sistemler yakıt depolarını ve askeri ekipmanları hedef aldı. Testlerde herhangi bir sivilin hayatını kaybetmediği belirtildi. Zaporijya’daki saldırı ise Rusya’nın otonom yapay zeka kullanan bir İHA ile sivilleri öldürdüğü ilk belgelenmiş olay olarak değerlendiriliyor.
Cephe hattına yaklaşık 14,5 kilometre uzaklıktaki Zaporijya'da otonom İHA tehdidine karşı farklı savunma yöntemleri uygulanıyor. İnsanlar tarafından kontrol edilen önleyici İHA'lar aktif olarak kullanılıyor. Ayrıca kent ve çevresindeki yolların yaklaşık 386 kilometrelik bölümünde İHA önleme ağları bulunuyor.
Yapay zeka sistemlerini yanıltmak için kamuflaj da kullanılıyor. Benzin istasyonlarındaki propan tüplerinin çevresine farklı açılarla yerleştirilen plastik örtüler, görüntü tanıma sistemlerinin bu hedefleri doğru şekilde tespit etmesini zorlaştırmayı amaçlıyor.
Kaynak: Donanım Haber
