Elon Musk’ın yapay zekâ şirketi xAI tarafından geliştirilen ve X (eski adıyla Twitter) platformu üzerinden erişilebilen sohbet botu Grok, cinsel içerikli deepfake görüntüler nedeniyle dünya genelinde artan tepkiler ve soruşturmalarla karşı karşıya. Özellikle rızasız şekilde üretilen ve kadınlar ile çocukları hedef alan sahte “bikini” görselleri, birçok ülkede alarm zillerinin çalmasına neden oldu.
Malezya ve Endonezya’dan Tam Engelleme
Malezya ve Endonezya, Grok’a erişimi tamamen engelleyen ilk ülkeler oldu. Yetkililer, mevcut güvenlik önlemlerinin sahte cinsel içeriklerin üretilmesini ve yayılmasını engellemekte yetersiz kaldığını belirtti. Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, “Rızaya dayanmayan cinsel deepfake’ler, dijital alanda insan hakları, insan onuru ve kamu güvenliğine yönelik ciddi bir ihlaldir” açıklamasında bulundu.
Avrupa ve Asya’da Soruşturmalar
Tartışmalar Avrupa ve Asya’ya da yayıldı. İngiltere’de çevrim içi güvenlikten sorumlu bağımsız düzenleyici kurum Ofcom, X platformunun Grok üzerinden üretilen yasa dışı cinsel içeriklere karşı kullanıcıları koruma yükümlülüğünü ihlal edip etmediğini incelemek üzere soruşturma başlattı.
Fransa’da ise Paris Savcılığı, milletvekillerinden gelen şikâyetler üzerine platformda yayılan açık cinsel deepfake görüntülerini mercek altına aldı. Fransa’nın siber suç birimi, X’i ayrıca antisemitik içerik ve Holokost inkârı iddiaları nedeniyle de soruşturuyor.
Yeni Özellik Krizi Büyüttü
Tepkilerin artmasında, Grok’a eklenen ve kullanıcıların mevcut görselleri hızlı ve kolay biçimde düzenlemesine olanak tanıyan yeni bir özellik etkili oldu. Hak sahibinin rızası aranmadan kullanılan bu araç, çok sayıda kişinin dijital olarak “soyulduğu”, ardından sanal bikiniler giydirildiği görsellerin hızla yayılmasına yol açtı.
Bazı içerikler “şaka” olarak sunulsa da, birçok örnekte neredeyse pornografik nitelikte görüntüler üretildi. En büyük tepki ise çocuklar ve bebeklere ait görsellerin de bu şekilde cinselleştirilmesine karşı yükseldi.
xAI’dan Kısıtlamalar, Ancak Tepkiler Dinmedi
Artan baskı üzerine xAI, görüntü üretme ve düzenleme araçlarına yeni kısıtlamalar getirdiğini ve bu özelliklerin yalnızca ücretli abonelere açık olacağını duyurdu. Ancak eleştirmenler, bunun sorunu çözmediğini savunuyor. Çünkü Grok’un X içindeki sohbet sekmesi üzerinden hâlâ cinselleştirilmiş içerik üretilebildiği belirtiliyor.
Ayrıca X’ten bağımsız çalışan Grok mobil uygulamasının, şu an için abonelik gerektirmeden benzer görsellerin üretilmesine izin vermeyi sürdürdüğü ifade ediliyor.
AB’den Sert Tepki: “Yasa Dışı ve Şoke Edici”
Avrupa Komisyonu, X’te kadınlar ve çocuklara ait çıplak ve cinselleştirilmiş görüntülerin dolaşımını “yasa dışı ve şoke edici” olarak nitelendirdi. Komisyon sözcüsü, “Ücretli ya da ücretsiz olması fark etmez; bu tür görüntüleri görmek istemiyoruz. Yapılan değişiklikler temel sorunu çözmüyor” dedi.
Almanya İletişim Bakanı Wolfram Weimer ise yaşananları “cinsel tacizin sanayileşmesi” olarak tanımladı. ABD’de Demokrat senatörler, Apple ve Google’a çağrı yaparak X’in uygulama mağazalarından kaldırılmasını talep etti.
Türkiye’de Tartışma Yeniden Alevlendi
Türkiye’de Grok, Eylül 2025’te düzenleyici kaygılar nedeniyle geçici olarak engellenmişti. Son gelişmelerle birlikte dijital güvenlik ve platformların sorumluluğu konusundaki tartışmalar yeniden gündeme geldi. Siber güvenlik uzmanları ve hukukçular, bu tür içerikleri “yapay zekâ temelli cinsel şiddet” olarak nitelendirerek, asıl sorumluluğun içeriğin üretilmesine ve yayılmasına izin veren platformlarda olduğunu vurguluyor.
Grok etrafında büyüyen bu kriz, yapay zekâ teknolojilerinin etik sınırları, hukuki sorumluluklar ve kullanıcı güvenliği konularında küresel ölçekte daha sert düzenlemelerin kapıda olduğuna işaret ediyor.
