AI tarafından kontrol edilen ABD askeri drone, simülasyon testi sırasında operatörünü öldürdü.
Yapay zeka, görevini gerçekleştirmek için 'son derece beklenmedik stratejiler' kullandı ve müdahale eden herkese saldırdı.
Bir yetkili geçen ay yaptığı açıklamada, ABD ordusu tarafından sahnelenen simüle edilmiş bir testte, AI tarafından kontrol edilen bir hava kuvvetleri insansız hava aracının, görevini gerçekleştirme çabalarına müdahale etmesini önlemek için operatörünü öldürdüğünü söyledi.
Mayıs ayında Londra'da düzenlenen Future Combat Air and Space Capabilities Summit'te ABD hava kuvvetleri ile AI testi ve operasyonları şefi Col Tucker 'Cinco' Hamilton, yapay zekanın simüle testte "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını söyledi.
Hamilton, yapay zekadan güç alan bir dronun düşmanın hava savunma sistemlerini imha etmesinin tavsiye edildiği ve bu düzene müdahale eden herkese saldırdığı simüle edilmiş bir testi anlattı.
"Sistem, tehdidi tespit ederken, bazen insan operatörünün ona bu tehdidi öldürmemesini söylediğini, ancak bu tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu” dedi.
"Sistemi eğittik - 'Hey, operatörü öldürme - bu kötü. Bunu yaparsan puan kaybedersin'. Peki, ne yapmaya başlıyor? Operatörün hedefi öldürmesini engellemek için insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başlar.”
Simülasyon dışında hiçbir gerçek insan zarar görmedi.
Deneysel bir savaş uçağı testi pilotu olan Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulundu ve testin "yapay zeka, makine öğrenimi, özerklik hakkında konuşamayacağınızı" gösterdiğini söyledi.
ABD ordusu yapay zekayı benimsedi ve yakın zamanda bir F-16 savaş uçağını kontrol etmek için yapay zekayı kullandı.
Geçen yıl Defence IQ ile yapılan bir röportajda Hamilton, "Yapay zekaya sahip olmak hoş bir şey değil, yapay zeka geçici bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza dek değiştiriyor" demişti.
"Yapay zekanın zaten burada olduğu ve toplumumuzu dönüştürdüğü bir dünyayla yüzleşmeliyiz" dedi. “Yapay zeka da çok kırılgan, yani kandırması ve/veya manipüle etmesi kolay. Yapay zekayı daha sağlam hale getirmenin yollarını geliştirmemiz ve yazılım kodunun neden belirli kararlar aldığı konusunda daha fazla farkındalığa sahip olmamız gerekiyor - buna yapay zeka ile açıklanabilirlik diyoruz."
