Birleşmiş Milletler (BM), yapay zekânın savaş alanlarında giderek daha fazla kullanılmasıyla askeri operasyonlarda insan denetiminin hızla zayıfladığı uyarısında bulundu. BM Silahsızlanma Araştırmaları Enstitüsü Direktörü Robin Geiss, yapay zekâ destekli silah sistemlerinin hedef belirleme ve saldırı süreçlerini hızlandırdığını belirterek, “Makinelerin insanları hedef almasına ve öldürmesine izin mi vereceğiz?” sorusunu gündeme taşıdı.

Yapay zekâ teknolojilerinin askeri alanda yaygınlaşması, savaşların geleceği ve ölümcül güç kullanma kararlarının kim tarafından verileceği konusunda uluslararası endişeleri artırıyor. Birleşmiş Milletler Silahsızlanma Araştırmaları Enstitüsü (UNIDIR) Direktörü Robin Geiss, New York'taki BM Genel Merkezi'nde gazetecilere yaptığı açıklamada, savaş alanlarında insan kararlarının yerini giderek algoritmaların almaya başladığına dikkat çekti.

Geiss, yapay zekânın yalnızca askeri operasyonlara yardımcı bir teknoloji olmaktan çıkarak doğrudan karar alma mekanizmalarını etkileyen bir unsura dönüştüğünü belirtti. Bu gelişmenin uluslararası güvenlik açısından ciddi riskler barındırdığını vurgulayan Geiss, insan denetiminin ortadan kalkmasının savaşlarda geri dönüşü olmayan sonuçlar doğurabileceği uyarısında bulundu.

Savaş alanlarında insanın yerini algoritmalar alıyor

Yapay zekâ sistemleri günümüzde istihbarat verilerinin analiz edilmesinden askeri hedeflerin belirlenmesine, insansız hava araçlarının yönetiminden siber saldırıların planlanmasına kadar geniş bir alanda kullanılıyor.

Ancak bu teknolojilerin askeri operasyonlardaki etkinliğinin artması, insanın karar alma süreçlerindeki rolünü giderek azaltıyor.

UNIDIR Direktörü Geiss, özellikle nükleer silahlarla bağlantılı askeri karar mekanizmalarında yapay zekânın etkisinin artmasının son derece tehlikeli sonuçlara yol açabileceğine işaret etti.

Yapay zekâ destekli sistemlerin hedeflerin tespit edilmesi ile saldırının gerçekleştirilmesi arasındaki süreyi önemli ölçüde kısalttığını belirten Geiss, bu durumun ordulara bir gün içerisinde daha önce mümkün olmayan sayıda hedefe saldırma kapasitesi kazandırdığını ifade etti.

Savaşların hızlanmasıyla birlikte askeri kararların değerlendirilmesi, doğrulanması ve olası sonuçlarının hesaplanması için insanlara tanınan sürenin de giderek daraldığına dikkat çekildi.

Hatalı bir algoritma büyük bir çatışmayı tetikleyebilir

BM'nin uyarılarında öne çıkan bir diğer başlık ise yapay zekâ sistemlerinin çalışma biçimlerinin her zaman yeterince şeffaf olmaması.

Özellikle karmaşık algoritmalarla çalışan askeri sistemlerde bir kararın hangi verilere dayanılarak üretildiğinin açıklanamaması, savaş ortamında ciddi güvenlik sorunlarına neden olabiliyor.

Geiss, bu durumun yanlış hedef belirleme, askeri tehditlerin hatalı değerlendirilmesi ve istem dışı çatışma tırmanması riskini artırdığını vurguladı.

Yapay zekâ destekli bir sistemin yanlış değerlendirmesi sonucunda gerçekleştirilecek saldırının, taraflar arasında daha geniş çaplı bir askeri karşılaşmaya yol açabileceği endişesi dile getirildi.

Bu riskin özellikle nükleer silahlara sahip ülkeler açısından daha büyük önem taşıdığına dikkat çekiliyor.

BM: Ölümcül kararlar insan denetiminden çıkarılmamalı

Birleşmiş Milletler Genel Sekreteri'nin daha önce yaptığı açıklamalarda da ölümcül otonom silah sistemlerine ilişkin güçlü uyarılarda bulunulmuştu.

BM yönetimi, makinelerin insan müdahalesi olmadan yaşam ve ölüm üzerinde belirleyici kararlar vermesinin aşılmaması gereken ahlaki bir sınır olduğunu savunuyor.

Bu kapsamda ölümcül otonom silah sistemlerinin geliştirilmesi ve kullanılmasını düzenleyen, uluslararası hukuk açısından bağlayıcı bir anlaşma yapılması çağrısı yineleniyor.

UNIDIR Direktörü Geiss, söz konusu çağrıların uluslararası toplumda giderek daha fazla karşılık bulduğunu belirtti.

ABD ve Çin arasında yapay zekâ kaynaklı krizleri önleme arayışı

Yapay zekânın askeri alanda kullanımına yönelik uluslararası düzenlemelerin önündeki en önemli engeller arasında büyük güçler arasındaki jeopolitik rekabet bulunuyor.

Geiss, ülkeler arasındaki güvenlik kaygıları ve siyasi gerilimlerin ortak kurallar oluşturulmasını zorlaştırdığını kabul etmekle birlikte, yapay zekânın yaratabileceği tehditlere ilişkin endişelerin farklı siyasi bloklarda giderek ortaklaştığını ifade etti.

Bu gelişmelere örnek olarak ABD'nin eylül ayında Çin'e sunduğu yapay zekâ bildirim mekanizması önerisi gösterildi.

Öneri, iki ülkenin ulusal güvenliği tehdit edebilecek yapay zekâ kaynaklı olaylar hakkında birbirlerini bilgilendirmesini öngörüyor.

Dünyanın en yüksek askeri harcamalarını gerçekleştiren iki ülke arasında böyle bir mekanizmanın oluşturulması, yapay zekâ kaynaklı yanlış değerlendirmelerin askeri krizlere dönüşmesini önleme açısından önemli bir adım olarak değerlendiriliyor.

Yapay zekâ silahlı grupların kapasitesini de artırabilir

BM'nin dikkat çektiği tehlikeler yalnızca devletlerin sahip olduğu gelişmiş askeri teknolojilerle sınırlı değil.

Yapay zekâ araçlarının giderek daha erişilebilir hale gelmesi, devlet dışı silahlı grupların da karmaşık askeri operasyonlar gerçekleştirme kapasitesini artırabilir.

Geiss, bu teknolojilerin operasyonel planlama, lojistik faaliyetler ve saldırıların yürütülmesi gibi alanlarda kullanılabileceğini belirtti.

Yapay zekânın yaygınlaşmasıyla birlikte daha önce yalnızca gelişmiş devlet ordularının sahip olabildiği bazı teknolojik imkânların devlet dışı aktörler tarafından da kullanılabilmesi, uluslararası güvenlik açısından yeni bir tehdit alanı oluşturuyor.

BM bünyesinde yeni yapay zekâ güvenlik forumu kuruluyor

Artan risklere karşı uluslararası iş birliğini güçlendirmeyi hedefleyen UNIDIR, yapay zekâ ve askeri güvenlik alanında yeni bir girişim başlatmaya hazırlanıyor.

Enstitünün Yapay Zekâ, Barış ve Güvenlik Mükemmeliyet Merkezi tarafından 22 Ekim Perşembe günü, uluslararası barış ve güvenlik ile askeri alanda yapay zekâ kullanımına odaklanan çok paydaşlı bir forumun başlatılması planlanıyor.

Geiss, forumun BM sistemi içerisinde bu alana odaklanan ilk ve tek platform olacağını belirtti.

Yeni forumun çalışmalarında üç temel başlık öne çıkacak:

  • Savunma sanayisine yönelik sorumluluk ilkeleri: Askeri yapay zekâ teknolojileri geliştiren şirketlerin tasarım ve üretim aşamalarında uyması için gönüllü ve uygulanabilir kurallar oluşturulması.

  • Ortak yapay zekâ güvenlik terminolojisi: Otonomi, emniyet ve güvenlik gibi kavramların uluslararası düzeyde ortak biçimde tanımlanması ve ülkeler arasındaki kavram farklılıklarının giderilmesi.

  • Silahlı grupların yapay zekâyı kötüye kullanmasının önlenmesi: Devlet dışı aktörlerin yapay zekâ teknolojilerini askeri planlama, operasyon ve lojistik faaliyetlerde kullanmasından kaynaklanan risklerin ele alınması.

Savaşların geleceğinde en kritik soru: Son kararı kim verecek?

Yapay zekânın askeri sistemlere entegrasyonu, yalnızca savaş teknolojilerinin gelişmesi anlamına gelmiyor. Aynı zamanda insan yaşamını doğrudan etkileyen kararların sorumluluğu, denetlenebilirliği ve uluslararası hukuk karşısındaki konumunu da yeniden tartışmaya açıyor.

Bir algoritmanın yanlış hedef belirlemesi durumunda sorumluluğun yazılım geliştiricisinde mi, askeri komuta kademesinde mi yoksa sistemi kullanan devlette mi olacağı, çözüm bekleyen temel hukuki ve etik sorunlar arasında yer alıyor.

BM'nin açıklamaları, yapay zekânın savaş alanlarında sağladığı hız ve operasyonel kapasitenin, insan denetiminin ve hesap verebilirliğin zayıflaması pahasına ilerlememesi gerektiğini ortaya koyuyor.

UNIDIR Direktörü Robin Geiss'in “Makinelerin insanları hedef almasına ve öldürmesine izin mi vereceğiz?” sorusu ise uluslararası toplumun önündeki en kritik tartışmalardan birini özetliyor: Savaşlarda yaşam ve ölüm kararını insanlar mı verecek, yoksa bu yetki giderek algoritmalara mı devredilecek?

Kaynak: Birleşmiş Milletler (BM) / UNIDIR Direktörü Robin Geiss'in New York'taki basın bilgilendirmesi. Haber, paylaşılan İngilizce açıklama esas alınarak Türkçe haber diliyle yeniden hazırlanmıştır.