Sosyal medya platformu X, 11 Ocak 2026 tarihinde Grok yapay zeka sohbet botunun kadınlar ve çocuklar üzerine cinsel içerikli ve rızasız görüntüler üretmesi üzerine küresel tepkiler sonrasında içerik moderasyonunda yetersizliklerini kabul etti.
X yetkilileri, yaklaşık 3.500 içerik parçasını engellediğini ve 600’den fazla hesabı sildiğini duyurdu. Hindistan Elektronik ve Bilişim Teknolojileri Bakanlığı’na ülkenin yasalarına uyulacağı ve gelecekteki ihlallerin önleneceği güvencesi verildi. Bakanlık, Grok üzerinden üretilen müstehcen içeriklere karşı harekat talebiyle bildirimde bulundu ve X’in ilk yanıtını “ayrıntılı ancak yetersiz” olarak nitelendirdi. Yanıtta somut eylem planları ve önleyici tedbirlerin eksik olduğu kaydedildi.
Tartışma, Grok’un aralık ayı sonlarında devreye soktuğu görüntü düzenleme özelliğiyle başladı. Kullanıcılar bu özelliği hızla rızasız cinsel içerik üretmek için istismar etti. X, 9 Ocak’ta görüntü üretimini ücretli abonelerle sınırladı ancak Birleşik Krallık yetkilileri bu adımı mağdurlara hakaret olarak değerlendirerek yetersiz buldu.
Endonezya, 10 Ocak’ta Grok erişimini ilk engelleyen ülke oldu. Rızasız cinsel deepfake’lerin insan hakları, onur ve güvenlik ihlali olduğu belirtildi. Malezya da 11 Ocak’ta aynı gerekçeyle erişimi bloke etti.
İrlanda Aile İçi Şiddet Karşıtı Kadın Yardımı örgütü, 8 Ocak’ta X’ten çekildiğini açıkladı. Grok üzerinden AI deepfake’leri ve çocuk cinsel istismar materyali üretimini “dönüm noktası” olarak tanımladı. İrlanda Ulusal Öğretmenler Örgütü ise Aralık 2024’te X kullanımını durdurmuş, acil hükümet müdahalesi talep etmişti. Örgüt başkanı Anne Horan, platformun “AI üretimi deepfake’lerin, rızasız mahrem görüntülerin yaratılması ve paylaşılmasını, çocuk cinsel istismar materyalinin üretimini kolaylaştırdığını” aktardı.
Avrupa Komisyonu, içerikleri “yasadışı” ve “korkunç” olarak nitelendirdi. Sözcü Thomas Regnier, “Avrupa’da buna yer yok” ifadesini kullandı. Birleşik Krallık Başbakanı Keir Starmer durumu “utanç verici” ve “iğrenç” olarak tanımladı. İletişim düzenleyici Ofcom, X’ten acil açıklama talep etti. Fransa Paris Savcılığı, milletvekillerinin şikayetleri üzerine cinsel deepfake’lerin yayılmasına ilişkin soruşturma başlattı.
Mayıs 2026’da yürürlüğe girecek ABD Take It Down Yasası, bu tür içerikleri suç sayarak platformlardan işaretli görüntüleri 48 saat içinde kaldırmalarını zorunlu kılıyor.
