BM insan hakları şefi Michelle Bachelet Çarşamba günü yaptığı açıklamada, Devletlerin yeterli güvenlik önlemleri alınana kadar yapay zeka (AI) sistemlerinin satışına ve kullanımına moratoryum koyması gerektiğini söyledi. Bu teknolojinin insan haklarına karşı oluşturduğu ciddi riskleri değerlendirmek ve ele almak zaman alabileceğinden acil eyleme ihtiyaç vardır, diye uyardı Yüksek Komiser: "İnsan hakları için risk ne kadar yüksekse, yapay zeka teknolojisinin kullanımına ilişkin yasal gereklilikler o kadar sıkı olmalıdır. ”. Bachelet, uluslararası insan hakları hukukuna uygun olarak kullanılamayan yapay zeka uygulamalarının da yasaklanması çağrısında bulundu. “Yapay zeka, toplumların zamanımızın bazı büyük zorluklarını aşmasına yardımcı olarak iyilik için bir güç olabilir. Ancak yapay zeka teknolojileri, insanların insan haklarını nasıl etkilediklerine yeterince dikkat edilmeden kullanılırsa olumsuz, hatta yıkıcı etkileri olabilir”. Pegasus casus yazılım açıklamaları Urgent need for a moratorium on the sale and use of #AI systems that pose serious human rights risks until adequate safeguards are put in place – @mbachelet. AI applications that cannot be used in compliance with human rights law should be banned.? https://t.co/VmmR75slYd pic.twitter.com/wXsl0SLuEy— UN Human Rights (@UNHumanRights) September 15, 2021 Salı günü, BM hakları şefi, insan haklarıyla "uyumsuz" olduğunda ısrar ettiği "dünya çapında devlet ve özel aktörler tarafından benzeri görülmemiş düzeyde gözetim" konusundaki endişelerini dile getirdi. Bir Avrupa Konseyi'nde, Temmuz ayında Pegasus casus yazılımıyla ilgili tartışmalardan kaynaklanan imalar hakkında konuşuyordu . Avrupa Konseyi Hukuk İşleri ve İnsan Hakları Komitesi'ne konuşan Bachelet, NSO grubu tarafından ticarileştirilen ve dört ülkede 45 ülkede binlerce insanı etkileyen yaygın casus yazılım kullanımına atıfta bulunarak, Pegasus ifşalarının pek çok kişi için sürpriz olmadığını söyledi. kıtalar. Eylem olmadan 'yüksek fiyat' Yüksek Komiser'in çağrısı, ofisi OHCHR'nin , yapay zekanın insanların sağlık, eğitim, hareket özgürlüğü, barışçıl toplanma ve örgütlenme özgürlüğü ve ifade özgürlüğü dahil olmak üzere mahremiyet haklarını ve diğer haklarını nasıl etkilediğini analiz eden bir rapor yayınlamasıyla geldi . . Belge, profil oluşturma, otomatik karar verme ve diğer makine öğrenimi teknolojilerinin bir değerlendirmesini içerir. Çarşamba günü Cenevre'de raporun lansmanında konuşan Hukukun Üstünlüğü ve Demokrasi Bölümü İnsan Hakları Görevlisi Tim Engelhardt, durumun "korkunç" olduğunu söyledi. Durum “yıllar içinde düzelmedi, ancak daha da kötüleşti” dedi. “Avrupa Birliği'nin denetime ilişkin kuralları güçlendirme anlaşmasını” ve “uluslararası gönüllü taahhütlerin ve hesap verebilirlik mekanizmalarının büyümesini” memnuniyetle karşılarken, “önümüzdeki yıl bir çözüm bulacağımızı düşünmüyoruz, ancak ilk adımlar atılıyor” uyarısında bulundu. Şimdi alınması gerekiyor yoksa dünyadaki birçok insan yüksek bir bedel ödeyecek” dedi. OHCHR Tematik Katılım Direktörü Peggy Hicks, Bay Engelhardt'ın uyarısına “gelecekteki risklerle değil, bugünün gerçekleriyle ilgili” diyerek ekledi. Geniş kapsamlı değişimler olmadan, zararlar ölçek ve hızla çoğalacak ve sorunun boyutunu bilemeyeceğiz.” Gerekli özenin gösterilmemesi Rapora göre, Devletler ve işletmeler genellikle AI uygulamalarını dahil etmek için acele ettiler ve gerekli özeni gösteremediler. Hatalı AI araçları nedeniyle sosyal güvenlik haklarından mahrum bırakılma veya hatalı yüz tanıma yazılımı nedeniyle tutuklanma gibi AI'nın kötüye kullanımı nedeniyle haksız yere muamele gören çok sayıda insan vakası olduğunu belirtiyor. Ayrımcı veriler Belge, toplanan, paylaşılan, birleştirilen ve analiz edilen bireyler hakkında birden fazla ve genellikle opak şekillerde analiz edilen bilgilerle, AI sistemlerinin büyük veri kümelerine nasıl güvendiğini detaylandırıyor. AI sistemlerini bilgilendirmek ve yönlendirmek için kullanılan verilerin hatalı, ayrımcı, güncel olmayan veya alakasız olabileceğini savunarak, verilerin uzun vadeli depolanmasının da belirli riskler taşıdığını, çünkü verilerin gelecekte henüz bilinmeyen şekillerde istismar edilebileceğini de ekliyor. . Bachelet, "Yapay zekanın hızlı ve sürekli büyümesi göz önüne alındığında, verilerin nasıl toplandığı, depolandığı, paylaşıldığı ve kullanıldığı konusundaki muazzam sorumluluk boşluğunu doldurmak, karşı karşıya olduğumuz en acil insan hakları sorunlarından biri" dedi. Raporda ayrıca, insan davranış kalıplarına ilişkin içgörüler aranması da dahil olmak üzere, AI araçları tarafından yapılan çıkarımlar, tahminler ve izleme hakkında ciddi soruların sorulması gerektiği belirtildi. AI sistemlerinin güvendiği önyargılı veri kümelerinin, zaten marjinalleştirilmiş gruplar için akut riskler olan ayrımcı kararlara yol açabileceğini buldu. "Bu nedenle, insan hakları risklerini belirlemek ve azaltmak için yapay zeka sistemlerinin etkilerinin sistematik olarak değerlendirilmesi ve izlenmesi gerekiyor" diye ekledi. Biyometrik teknolojiler Technologies like facial recognition are increasingly used to identify people in real time and from a distance.We call for a moratorium on their use in public spaces, at least until robust international #HumanRights safeguards are in place.Learn more: https://t.co/VmmR75slYd pic.twitter.com/mslH79ccFK— UN Human Rights (@UNHumanRights) September 15, 2021 Devletler, uluslararası kuruluşlar ve teknoloji şirketleri için giderek daha fazla başvurulan bir çözüm olan biyometrik teknolojiler, raporun "daha fazla insan hakları rehberliğine acilen ihtiyaç duyulan" bir alan olduğunu belirtiyor. Yüz tanımayı içeren bu teknolojiler, insanları gerçek zamanlı olarak ve uzaktan tanımlamak için giderek daha fazla kullanılıyor ve potansiyel olarak bireylerin sınırsız izlenmesine izin veriyor. Rapor, en azından yetkililer doğruluk veya ayrımcı etkilerle ilgili önemli bir sorun olmadığını ve bu yapay zeka sistemlerinin sağlam gizlilik ve veri koruma standartlarına uygun olduğunu gösterene kadar, kamuya açık alanlarda kullanımlarına ilişkin bir moratoryum çağrısını yineliyor. Daha fazla şeffaflık gerekli Belge ayrıca, şirketlerin ve Devletlerin yapay zekayı nasıl geliştirdikleri ve kullandıkları konusunda çok daha fazla şeffaflığa ihtiyaç duyduklarını da vurguluyor. “Veri ortamının karmaşıklığı, AI sistemlerinin geliştirilmesi ve işletilmesinin altında yatan algoritmalar ve modeller ile hükümet ve özel aktörlerin kasıtlı gizliliği, halkın AI sistemlerinin insan hakları ve toplum üzerindeki etkilerini anlaması için anlamlı yolları baltalayan faktörlerdir. ” diyor rapor. Korkuluklar gerekli “Yapay zeka ile ilgili yetişmeye devam edemeyiz - sınırlı veya sınırsız veya gözetimsiz kullanımına izin vererek ve olaydan sonra neredeyse kaçınılmaz olan insan hakları sonuçlarıyla uğraşmayı göze alamayız. “Yapay zekanın insanlara hizmet etme gücü yadsınamaz, ancak yapay zekanın insan hakları ihlallerini neredeyse hiç görünürlük olmadan muazzam bir ölçekte besleme yeteneği de öyle. Hepimizin iyiliği için yapay zekanın kullanımına insan hakları bariyerleri koymak için şimdi harekete geçilmesi gerekiyor,” dedi Bayan Bachelet.