Yapay zekânın kurallarını kim belirleyecek? BM’den küresel iş birliği çağrısı
Yapay zekâ teknolojilerinin hızla gelişmesi; güvenlik, insan hakları, eşitsizlik, yanlış bilgilendirme ve mahremiyet alanlarındaki riskleri de büyütüyor. Birleşmiş Milletler Genel Sekreteri António Guterres, ulusal düzenlemelerin tek başına yeterli olmayacağını belirterek yapay zekânın kurallarının hükümetler, bilim dünyası, teknoloji şirketleri ve sivil toplumun katılımıyla küresel ölçekte oluşturulması çağrısında bulundu.
Yapay zekânın yaşamın hemen her alanında daha etkili hâle gelmesi, bu teknolojinin kimler tarafından ve hangi kurallarla yönetileceği tartışmasını derinleştiriyor. Yapay zekânın sunduğu bilimsel, ekonomik ve toplumsal olanakların yanı sıra ulusal sınırları aşan riskleri, ortak bir uluslararası düzenlemeye duyulan ihtiyacı artırıyor.
Yapay zekâ şirketi Anthropic’in eski bir araştırmacısının 8 Eylül’de yapay zekânın insanlık açısından varoluşsal bir tehdit oluşturabileceği yönündeki uyarısı da tartışmaları yeniden gündeme taşıdı.
Birleşmiş Milletler’e göre küresel nitelikteki risklerle mücadele edebilmenin yolu, ülkelerin yapay zekâ yönetişimi konusunda ortak ilkeler ve bağlayıcı taahhütler etrafında buluşmasından geçiyor.
Guterres: Küresel koordinasyon vazgeçilmez
BM Genel Sekreteri António Guterres, çarşamba günü yaptığı açıklamada, ülkelerin kendi sınırları içinde atacağı adımların gerekli olduğunu ancak bunların tek başına yeterli olmayacağını vurguladı.
“Ulusal eylem şart, ancak küresel koordinasyon vazgeçilmezdir” diyen Guterres, yapay zekâ alanındaki güvenlik önlemlerinin ülkeden ülkeye değişmesinin küresel riskleri ortadan kaldırmayacağına dikkat çekti.
Birleşmiş Milletler, ülkelerin yapay zekâ teknolojileri konusunda ortak bir anlayış geliştirebilmesi için uzun süredir çalışmalar yürütüyor. Bu çalışmalar kapsamında güvenlik, insan hakları, teknolojik eşitsizlikler ve yapay zekâya erişim gibi başlıklarda uluslararası iş birliğinin nasıl kurulabileceği tartışılıyor.
BM aynı zamanda ülkelerin düzenleyici yaklaşımları arasında uyum sağlanmasını ve bilimsel kanıtlara dayalı ortak bir çerçeve oluşturulmasını hedefliyor.
Küresel Dijital Mutabakat iki mekanizmanın temelini attı
BM’nin yapay zekâ yönetişimi alanındaki mevcut çalışmaları, 2024 yılında üye devletler tarafından Gelecek Paktı’nın bir parçası olarak kabul edilen Küresel Dijital Mutabakat’a dayanıyor.
Mutabakat, yapay zekâ alanında uluslararası iş birliği çağrısı yaparken iki yeni mekanizmanın kurulmasını önerdi. Bunlardan ilki, yapay zekânın sunduğu fırsatları ve oluşturduğu riskleri bilimsel açıdan değerlendirecek bağımsız bir paneldi. İkincisi ise hükümetler ve diğer paydaşların yapay zekâ yönetimine ilişkin yaklaşımlarını koordine edebileceği yıllık küresel diyalog mekanizmasıydı.
BM Genel Kurulu, Ağustos 2025’te Uluslararası Yapay Zekâ Bilimsel Paneli ile Yapay Zekâ Yönetişimi Üzerine Küresel Diyalog’u resmen kurdu.
Bilimsel Panel kanıt sunacak, ülkeler karar verecek
Bağımsız Uluslararası Yapay Zekâ Bilimsel Paneli, hızla gelişen teknoloji hakkında bilinenleri ve henüz açıklığa kavuşmayan konuları bağımsız biçimde değerlendirerek hükümetlere sunmayı amaçlıyor.
Yapay Zekâ Yönetişimi Üzerine Küresel Diyalog ise hükümetleri, teknoloji şirketlerini, bilim insanlarını, sivil toplum örgütlerini ve diğer paydaşları bir araya getirmeyi hedefliyor. Diyalog kapsamında ülkelerin deneyimlerini paylaşması, uluslararası iş birliği olanaklarının değerlendirilmesi ve farklı düzenleme modelleri arasında uyum sağlanması öngörülüyor.
BM Genel Kurulu tarafından birbirini tamamlayacak şekilde tasarlanan iki mekanizmadan Bilimsel Panel kanıtları ortaya koyacak, ülkeler ise Küresel Diyalog aracılığıyla bu bulgular karşısında hangi adımların atılacağına karar verecek.
Yapay zekâda fırsatlar kadar riskler de büyüyor
Bilimsel Panel’in 1 Temmuz’da yayımlanan ilk ön raporunda, yapay zekâ sistemlerinin özellikle mantık yürütme, kodlama ve bilimsel çalışmalar alanında hızla geliştiği belirtildi.
Raporda bu gelişmelerin sağlık, eğitim, bilim, ekonomi ve kamu hizmetleri açısından önemli fırsatlar yaratabileceği ifade edildi. Ancak yapay zekânın kontrolsüz kullanımının ciddi toplumsal ve küresel risklere yol açabileceği de vurgulandı.
Panelin belirlediği başlıca riskler arasında şunlar yer aldı:
- Yanlış ve yanıltıcı bilgilerin geniş kitlelere yayılması,
- Mevcut ayrımcılık biçimlerinin algoritmalar yoluyla yeniden üretilmesi,
- Kişisel verilerin ve özel yaşamın ihlal edilmesi,
- Yapay zekâ destekli siber saldırıların artması,
- Giderek güçlenen sistemlerin insan denetiminden çıkması,
- Kontrol edilmesi güç bir “süper zekâ” ihtimalinin ortaya çıkması.
“Ortak bir anlayışa ihtiyacımız var”
BM Genel Kurulu öncesinde New York’ta dünya medyasına açıklamalarda bulunan Guterres, yapay zekânın güvenli ve sorumlu biçimde geliştirilmesi konusunda uluslararası ortaklığa ihtiyaç duyulduğunu söyledi.
Guterres, “Yapay zekânın güvenli, emniyetli ve sorumlu bir şekilde geliştirilmesini nasıl ilerleteceğimiz konusunda ortak bir anlayışa ihtiyacımız var. Aynı zamanda giderek daha güçlü hâle gelen sistemlerin ne zaman daha güçlü güvenlik önlemlerine veya potansiyel riskleri yönetmek için ek tedbirlere ihtiyaç duyabileceğini belirlemeliyiz” dedi.
Tartışma “Düzenlenmeli mi?” sorusunun ötesine geçti
BM’nin çalışmaları, yapay zekânın düzenlenip düzenlenmemesi yönündeki tartışmaların yerini, “Hangi güvenlik önlemleri uygulanmalı?” sorusuna bıraktığı bir dönemde yürütülüyor.
Guterres, yapay zekâ teknolojilerinin güvenli, şeffaf ve sorumlu biçimde geliştirilmesi için uluslararası iş birliği çağrısını yineledi. Yapay zekâ gelişimini yavaşlatmaya yönelik gönüllü girişimlerin birbirinden kopuk, doğrulanamaz veya ülkeler arasında eşitsiz biçimde uygulanması hâlinde yeterli olmayacağını söyledi.
“Riskler çok büyük hâle geldiğinde yapay zekâ gelişiminin yavaşlaması gerektiğine inanıyorsak, iyi niyetten daha fazlasına ihtiyacımız var” diyen Guterres, ortak ve denetlenebilir güvenlik önlemlerinin önemine işaret etti.
BM’den geniş katılımlı zirve mesajı
Guterres’e, BM’nin insanlık yararına etkili düzenlemelere ulaşılmasını sağlayacak bir zirve düzenleyip düzenleyemeyeceği de soruldu.
Böyle bir zirvenin hemen gerçekleştirilemeyeceğini belirten Guterres, kamu kurumları, özel sektör, bilim dünyası ve sivil toplumun katılımıyla geniş kapsamlı bir buluşmanın yakın zamanda yapılması gerektiğini dile getirdi.
Bu yaklaşım, yapay zekânın kurallarının yalnızca teknoloji şirketleri veya birkaç güçlü ülke tarafından belirlenmemesi gerektiği yönündeki tartışmaları da güçlendiriyor. BM, düzenleyici sürece hükümetlerin yanı sıra bilim insanlarının, insan hakları örgütlerinin, çalışanların ve teknolojiden doğrudan etkilenen toplumsal kesimlerin de katılmasını savunuyor.
Çocuk güvenliği ve küresel fon çağrısı
BM Genel Sekreteri, yapay zekâ teknolojilerinin çocuklar üzerindeki etkilerine karşı özel önlemler alınmasını istedi. Bu kapsamda bir “Yapay Zekâ Çocuk Güvenliği Taahhüdü” oluşturulması çağrısında bulundu.
Guterres ayrıca gelişmekte olan ülkelerin yapay zekâ altyapısını kurabilmesi, teknik kapasitesini geliştirebilmesi ve küresel teknolojik dönüşümün dışında kalmaması için Küresel Yapay Zekâ Fonu kurulmasını önerdi.
Fonun, yapay zekâ alanında ülkeler arasındaki teknolojik ve ekonomik uçurumun büyümesini önlemeye katkı sunması hedefleniyor.
Guterres, yapay zekâyı “güvenli, şeffaf, hesap verebilir ve insan onurunu merkeze alan” bir teknoloji hâline getirecek koruyucu önlemlerin hayata geçirilmesi gerektiğini vurguladı.
Ulusal düzenlemeler tek başına yeterli olmayacak
Ülkeler ve bölgesel kuruluşlar yapay zekâya ilişkin kendi mevzuatlarını hazırlarken BM’nin rolü; farklı hükümetleri ortak bir zeminde buluşturmak, tartışmalara bilimsel dayanak sağlamak ve uluslararası iş birliği kurulabilecek alanları belirlemek olacak.
Çünkü bir ülkede geliştirilen yapay zekâ sistemi başka ülkelerdeki seçimleri, ekonomileri, güvenlik yapılarını ve toplumsal ilişkileri etkileyebiliyor. Bu nedenle yalnızca ulusal ölçekte hazırlanan düzenlemelerin sınır aşan riskler karşısında yetersiz kalabileceği belirtiliyor.
Yapay zekâ BM Genel Kurulu’nun gündeminde
Diplomatik kaynaklara göre yapay zekâ konusunun, BM Güvenlik Konseyi’nin üst düzey görüşmeler haftasında da ele alınması bekleniyor.
BM Genel Merkezi’nde gerçekleştirilecek Genel Kurul toplantısının oturum aralarında da yapay zekâ başlıklı etkinlikler düzenlenecek. BM Sürdürülebilir Kalkınma Hedefleri Medya Bölgesi, 21 Eylül’de yapay zekâya ilişkin bir etkinliğe ev sahipliği yapacak. “Yapay Zekâ ve İnsan Gelişimi” etkinlik dizisi ise 23 Eylül’de gerçekleştirilecek tartışmayla sona erecek.
Her iki etkinlikte de yapay zekâ sistemleri ile insan iradesi ve eylemi arasındaki ilişkiye odaklanılacak.
Guterres, yapay zekânın dünya liderleriyle yapacağı görüşmelerin “önemli konularından biri” olacağını söyledi.
ABD ve Çin’e ortak güvenlik önlemleri çağrısı
Yapay zekâ alanındaki hızlı gelişimi, Soğuk Savaş döneminde ABD ile Sovyetler Birliği arasında yaşanan silahlanma yarışına benzeten Guterres, başta ABD ve Çin olmak üzere bu alanda öncü ülkelerin iş birliği yapması gerektiğini belirtti.
Guterres, yüksek kapasiteli yapay zekâ sistemleri geliştiren ülkelerin iletişim kanalları kurmasını, bilgi alışverişinde bulunmasını ve ortak güvenlik önlemleri üzerinde anlaşmasını istedi.
“Yapay zekâ alanında en yüksek kapasiteye sahip ülkelerin, bir gün küresel düzeyde devasa bir felakete yol açabilecek bir gerileme yarışından kaçınmak için temas mekanizmaları kurmaları, bilgi alışverişinde bulunmaları ve bazı ortak güvenlik önlemleri oluşturmaları gerektiğini düşünüyorum” dedi.
BM, kurulan bilimsel ve diplomatik mekanizmalar aracılığıyla yapay zekâ alanındaki uluslararası iş birliğini somut politikalara dönüştürmeyi hedefliyor. Tartışmanın merkezinde ise giderek daha belirgin hâle gelen bir ilke bulunuyor: Yapay zekânın kuralları yalnızca onu geliştiren şirketler tarafından değil, insan hakları ve kamu yararı temelinde toplumların ortak katılımıyla belirlenmeli.
