Birleşmiş Milletler (BM), “katil robotlar” olarak da anılan otonom silahlara sınır getirilmesini görüşmek üzere Pazartesi günü Cenevre’de konferansa başlıyor. Belirli Konvansiyonel Silahlar Sözleşmesi (CCW) kapsamında yapılacak toplantılarda, bu sistemleri denetleyecek yasal çerçeve ele alınacak.
Yapay zekâ destekli ölümcül otonom silahlar savaşın doğasını değiştirmeye hazırlanırken bu teknolojiyi düzenleyen bir yasal çerçeve bulunmuyor. Görüşmelerin hızla gelişen silah teknolojisine yetişip yetişemeyeceği ise tartışma konusu.
Ahlaki bir kırmızı çizgiyi aşmaya tehlikeli biçimde yaklaştık: Makinelerin insanları otonom olarak hedef alması
BM Genel Sekreteri Antonio Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric, Ağustos ayında yayımladıkları ortak bildiride “Ahlaki bir kırmızı çizgiyi aşmaya tehlikeli biçimde yaklaştık: Makinelerin insanları otonom olarak hedef alması” uyarısında bulundu. İki lider, otonom silah sistemlerinin uzak bir geleceğe ait olmadığını ve bu alandaki yarışın başladığını vurguladı.
Cenevre Güvenlik Politikaları Merkezi Küresel ve Yükselen Riskler Bölüm Başkanı Jean-Marc Rickli, Ölümcül Otonom Silah Sistemleri’ni (LAWS), insan operatör müdahalesi olmadan hedef belirleyebilen, seçebilen ve hedefe yönelebilen sistemler olarak tanımladı. Fransa Uluslararası İlişkiler Enstitüsü Teknoloji Jeopolitiği Merkezi’nden Laure de Roucy-Rochegonde ise üzerine basıldığında patlayan anti-personel mayınlarının da bu anlamda otonom sayıldığını belirtti.
Uzmanlara göre yapay zekâ destekli insansız hava araçlarının yaygınlaşması, otonom silahlarla ilgili tartışmayı yeni bir aşamaya taşıdı. Rickli, bu sistemlerin önceden belirlenmemiş hedefleri seçip vurabildiğini ve insan müdahalesi olmadan çevrelerine uyum sağlayabildiğini ifade etti.
Düzenleyicilerin önündeki temel mesele, silahların kullanımına ilişkin kararlarda insan kontrolünün düzeyini belirlemek. ABD “uygun düzeyde insan muhakemesi” ifadesini kullanırken Fransa, insanın karar alma döngüsünde kalmasını savunuyor; tam otonom sistemleri (LAWS) yasaklıyor, kısmen otonom sistemlere (PLAWS) izin veriyor.
Fransa Savunma Bakanlığı Savunma Yapay Zekâ Ajansı (AMIAD) Başkan Yardımcısı Tümamiral Vincent Sebastien, insan rolünün askeri komutanın “uygun kontrolü” ile sağlandığını söyledi. Sebastien, bu kontrolün kapsamının sistemin kritikliğine ve operasyonel bağlama göre değiştiğini belirtti.