Çinli J-36 mühendisleri, yapay zekanın askeri operasyonları etkileyebilecek yanlış veriler üretebileceği konusunda uyardı.
- Yapay zeka, radar kapsama alanı, füze angajman bölgeleri ve düşman hava savunma sistemleri hakkında uydurma bilgiler oluşturabilir.
- Bu yanlış veriler, savaş uçağı tasarım kararlarını ve askeri istihbarat değerlendirmelerini olumsuz etkileyebilir.
- Mühendisler, modellerin güvenilir verilerle sınırlandırılması ve çapraz doğrulama yapılması gibi önlemler öneriyor.
AVIC Chengdu Aircraft Research and Design Institute mühendisleri, yeni nesil J-36 programı kapsamında yapay zekanın kullanımına ilişkin endişelerini dile getirdi. Kuruluşla bağlantılı mühendis Zhang Xianzhe, büyük dil modellerinin (LLM) son derece gerçekçi görünen ancak gerçekte var olmayan bilgiler üretebileceğini belirtti. Bu tür halüsinasyonlar, uçağın boyutları, silah kapasitesi, azami hızı veya muharebe yarıçapı gibi kritik tasarım parametrelerini içerebilir. Ayrıca yapay zeka, fizik kurallarını göz ardı ederek aerodinamik olarak imkansız manevralar veya operasyonel menzili aşan görev planları önerebilir. Askeri istihbaratta ise gerçekte bulunmayan üsler, birlikler ve hareketler oluşturulabilir; bu da simülasyonlara aktarıldığında hatalı değerlendirmelere yol açabilir.
İnsan analistlerin son kararı vermesi riski azaltabilir, ancak yapay zeka çıktılarının hacmi arttıkça her birinin doğrulanması zorlaşıyor. Zhang, savunma kuruluşlarının modelleri güvenilir askeri verilerle sınırlandırmasını, aranabilir bilgi tabanları oluşturmasını ve açık komutlar kullanmasını öneriyor. Ayrıca farklı yapay zeka sistemlerinin birbirlerinin çıktılarını sorgulayarak çapraz kontrol yapması, hataların yakalanmasına yardımcı olabilir.
Bu uyarı, yapay zekanın savunma alanında giderek artan kullanımına rağmen, güvenilirlik ve doğrulama mekanizmalarının kritik önemini ortaya koyuyor. Özellikle askeri operasyonlarda yanlış verilerin sonuçları ağır olabilir; bu nedenle yapay zeka sistemlerinin insan denetimiyle birlikte kullanılması ve sürekli doğrulanması gerekiyor. Bu gelişme, tüm savunma kuruluşları için yapay zeka entegrasyonunda dikkatli olunması gerektiğine işaret ediyor.
Tam Metin
Çinli J-36 mühendisleri, yapay zekanın uydurma radar, silah ve savaş verileri üretebileceği konusunda uyardı. Yanlış bilgiler, uçak tasarımına ve askeri operasyonlara etki edebilir. Uyarı, J-20 savaş uçağının arkasındaki kuruluş olan ve yeni nesil J-36 programında da görev alan AVIC Chengdu Aircraft Research and Design Institute mühendislerinden geldi.
Yapay zeka, savaş uçağı geliştirilirken düşmanın radar kapsama alanı ve çalışma frekansları, füze angajman bölgeleri, elektronik harp kabiliyetleri, erken ihbar uçaklarının konumları ve kara konuşlu hava savunmalarının analiz edilmesi gerekiyor. Bu veriler uçağın gizlilik özellikleri, sensörleri, manevra kabiliyeti ve muharebe menzili gibi temel tasarım kararlarını şekillendiriyor.
Chengdu uçak tasarım kuruluşuyla bağlantılı mühendis Zhang Xianzhe, LLM'lerin bu süreçte son derece inandırıcı görünen ancak gerçekte var olmayan bilgiler üretebileceğini belirtti. Zira model, bir savaş uçağının boyutlarını, taşıma kapasitesini, silah kabiliyetlerini, azami hızını veya muharebe yarıçapını uydurabileceği gibi radar tarama mesafeleri ve frekans bantları hakkında da yanlış veriler oluşturabiliyor.
Bu tür hatalar yapay zeka tarafından son derece gerçekçi bir şekilde işlendiği için fark edilmeleri zor olabiliyor. Yapay zeka çıktısı teknik açıdan tutarlı göründüğünde analistler veya mühendisler, yanlış bilgiyi gerçek istihbarat verisi olarak değerlendirebiliyor.
Yapay zeka, fizik kurallarını da göz ardı edebilir. Zhang'a göre yapay zeka, uygun dayanıklılığa sahip olmayan malzemeler önerebilir, aerodinamik açıdan mümkün olmayan manevralar tasarlayabilir veya uçağın operasyonel menzilini aşan görev planları hazırlayabilir. Askeri istihbaratta ise gerçekte bulunmayan üsler, birlikler ve birlik hareketleri oluşturulması mümkün.
Bu çıktılar simülasyonlara aktarılırsa karşı tarafın askeri kapasitesine ilişkin tamamen hatalı değerlendirmeler ortaya çıkabilir. İnsan analistlerin son kararı vermesi riski azaltabiliyor ancak yapay zekanın ürettiği bilgi ve önerilerin hacmi arttıkça her bir çıktının ayrıntılı biçimde doğrulanması giderek zorlaşıyor.
Zhang, yapay zekanın halüsinasyon olarak adlandırılan uydurma çıktılar üretme riskini azaltmak için çeşitli öneriler de veriyor. Savunma kuruluşlarının modelleri güvenilir askeri verilerle sınırlandırması ve bilgilerin doğrulanabileceği aranabilir bilgi tabanları oluşturması bunların başında geliyor. Daha açık ve kesin komutların kullanılması da modelin belirsiz yorumlar üretme ihtimalini azaltabilir.
Zhang ayrıca yapay zekanın ulaştığı sonuçların, birbirlerinin çıktılarındaki hataları sorgulayan farklı yapay zeka sistemleriyle çapraz kontrol edilmesini öneriyor.
Kaynak: Donanım Haber
