Yapay zekâyıyla büyüyen ilk kuşağın görüşleri, bu teknolojinin nasıl geliştirileceğine ilişkin kararlarda çoğu zaman en son soruluyor. BM İnsan Hakları Yüksek Komiseri Volker Türk, çocukların yalnızca korunması gereken kullanıcılar olarak değil, söz hakkı bulunan bireyler olarak görülmesi gerektiğini söyledi. UNICEF’in 11 ülkedeki araştırması ise çocuklara ait görüntülerin yapay zekâyla cinsel içerikli sahte görsellere dönüştürülmesinin ulaştığı boyuta dikkat çekiyor.
Birleşmiş Milletler Genel Kurul görüşmeleri kapsamında New York’ta düzenlenen üst düzey toplantıda, yapay zekânın çocukların yaşamına etkileri ele alındı. Fransa Cumhurbaşkanı Emmanuel Macron, İspanya Başbakanı Pedro Sánchez, Kenya Cumhurbaşkanı William Ruto ve Avustralya Başbakanı Anthony Albanese’nin eş başkanlık ettiği toplantının temel sorusu şuydu: Çocukların kullandığı ve yaşamlarını etkileyen sistemler geliştirilirken çocuklara ne zaman söz verilecek?
BM İnsan Hakları Yüksek Komiseri Volker Türk, bugünün çocuklarının yapay zekâyla büyüyen ilk kuşak olduğunu, buna karşın görüşlerine çoğu zaman en son başvurulduğunu söyledi. Türk’e göre çocukların düşünceleri, ürünler geliştirildikten ve yaşamlarına girdikten sonra alınan bir geri bildirim olarak görülmemeli. Çocuklar, tasarım ve kullanım kararlarına baştan itibaren katılabilmeli.
49 ülkeden çocuklar kaygılarını anlattı
Türk’ün aktardığına göre BM İnsan Hakları Ofisi ve ortakları, 49 ülkeden bini aşkın çocuğun yapay zekâ hakkındaki görüşlerini aldı. Çocukların dile getirdiği kaygılar arasında gerçek kişilere ait sahte görüntüler üretilmesi, kişisel verilerin toplanıp kullanılması ve yaratıcılığın zayıflaması yer aldı.
Bazı çocuklar, yapay zekâ sistemlerinin aileleriyle, arkadaşlarıyla, öğretmenleriyle veya destek aldıkları uzmanlarla kurdukları ilişkilerin yerini alabileceğinden de endişe duydu. Görüşlerin ortak noktası, kendilerini ilgilendiren kararlar alınmadan önce dinlenmek istemeleriydi.
Bu talep, teknolojinin sağlayabileceği olanakların reddi anlamına gelmiyor. Yapay zekâ çocukların öğrenmesine, üretmesine ve bilgiye erişmesine yardımcı olabilir. Toplantıda öne çıkan mesele, bu olanaklardan yararlanırken çocukların güvenliği, mahremiyeti ve gelişiminin nasıl korunacağıydı.
“Gönüllü taahhütler yeterli değil”
Volker Türk, Çocuk Haklarına Dair Sözleşme’nin yapay zekâ alanında da geçerli olduğunu vurguladı. Buna göre şirketlerin çocukları etkileyebilecek ürünler piyasaya çıkmadan önce insan hakları risklerini değerlendirmesi; sistemlerin işleyişi konusunda şeffaflık sağlaması ve bağımsız denetime açık olması gerekiyor.
Hükümetlere de sorumluluk düştüğünü belirten Türk, şirketlerin gönüllü taahhütleriyle yetinilemeyeceği uyarısında bulundu. Çocukların haklarının korunması için bağlayıcı kuralların ve etkili denetimin önemine işaret etti.
New York’taki toplantı, temmuz ayında Cenevre’de başlatılan Yapay Zekâ Çağında Çocuk Hakları ve Çocukların Korunması Koalisyonunun çalışmalarını da gündeme taşıdı. Hükümetleri, BM kuruluşlarını, teknoloji şirketlerini, sivil toplum örgütlerini ve uzmanları buluşturan koalisyona şu ana kadar 17 ülke katıldı. Girişimin hedeflerinden biri, çocukların yaşamını etkileyen yapay zekâ sistemleri tasarlanırken, kullanıma alınırken ve izlenirken çocukların da sürece katılması.
UNICEF: 11 ülkede en az 1,2 milyon çocuk etkilendi
Toplantının en çarpıcı başlıklarından biri, yapay zekâyla üretilen cinsel içerikli sahte görüntülerdi. UNICEF İcra Direktörü Catherine Russell, çocukların yapay zekâyı hâlihazırda kullandığını; öğrenme ve yaratıcılık açısından fırsatlar kadar ciddi risklerle de karşı karşıya olduklarını belirtti.
UNICEF, ECPAT ve INTERPOL’ün 11 ülkede yürüttüğü araştırmaya göre en az 1,2 milyon çocuk, son bir yıl içinde kendilerine ait görüntülerin cinsel içerikli sahte görüntülere dönüştürüldüğünü bildirdi. UNICEF, bu sayının araştırmanın kapsadığı ülkeler için hesaplanmış bir tahmin olduğunu belirtiyor; dünya genelindeki toplamı ifade etmiyor.
UNICEF’e göre görüntünün yapay zekâyla üretilmiş olması, çocuk üzerinde yarattığı zararı ortadan kaldırmıyor. Kuruluş; hükümetlerin yasal korumayı güçlendirmesini, geliştiricilerin kötüye kullanımı önleyen güvenlik önlemlerini sistemlerin tasarımına yerleştirmesini ve dijital platformların bu içeriklerin yayılmasını önlemek için daha hızlı ve etkili davranmasını istiyor.
Toplantıdan çıkan çağrı açık: Çocukların yapay zekâya ilişkin kaygılarını yalnızca dinlemek yetmiyor. Görüşlerinin, yaşamlarını etkileyecek kararlar alınırken dikkate alınması gerekiyor.
