Avrupa Komisyonu, Elon Musk’ın sosyal medya platformu X’e karşı resmi bir soruşturma başlattı. Soruşturmanın odak noktasında platformun yapay zeka sohbet robotu Grok tarafından üretilen rızasız cinsel içerikli deepfake görüntüler yer alıyor. Komisyon, çocuk istismarı materyali oluşturma riski taşıyan bu içeriklerin Dijital Hizmetler Yasası kapsamındaki yükümlülüklere uyup uymadığını mercek altına alıyor.
Gerçek insanları sanal ortamda soyan özellik küresel tepki topladı
Soruşturma kararı, Grok’un ücretli abonelere sunduğu ve “Spicy Mode” olarak bilinen özelliğin yarattığı küresel infialin ardından geldi. Ağustos 2025 tarihinde kullanıma sunulan bu özellik, kullanıcıların gerçek kişilerin fotoğraflarını sanal olarak çıplak hale getirmesine izin veriyordu. Fransa, İngiltere ve Hindistan gibi birçok ülke regülatörü de benzer gerekçelerle platforma karşı harekete geçmiş durumda. X yönetimi ise gerçek kişilerin görüntüleri üzerinde düzenleme yapılmasına kısıtlama getirdiğini ve çocuk istismarı konusunda sıfır tolerans gösterdiğini savunuyor.
“Kadınların ve çocukların rızası dışında üretilen cinsel içerikli deepfake görüntüleri şiddet içeren ve kabul edilemez bir aşağılama biçimidir.”
Küresel cironun yüzde altısına varan para cezası kesilebilir
AB yetkilileri Grok ile ilişkili sistemik risklerin gerçekleştiğini ve vatandaşların ciddi zarar gördüğünü belirtiyor. Şirket daha önce doğrulama sistemi ihlalleri nedeniyle 120 milyon Euro cezaya çarptırılmıştı.
Mevcut soruşturma sonucunda ihlal tespit edilirse X, küresel yıllık gelirinin yüzde 6’sına varan devasa bir para cezası ile karşı karşıya kalabilir.
