SpaceXAI, Grok’u gerçek kişilerin izni olmadan cinselleştirilmiş sahte görseller üretmek için kullandığını öne sürdüğü bir kullanıcıya dava açtı. xAI adıyla Teksas’ta açılan davada, Güney Carolina’da yaşayan 67 yaşındaki Terry Wayne Harwood sanık olarak gösterildi.
Şirketin şikayetine göre Harwood, 8 Aralık 2025 ile 18 Şubat 2026 arasında kullandığı 2 xAI hesabına çok sayıda yetişkinin ve çocuğun cinsel içerik taşımayan fotoğraflarını yükledi. Ardından Grok’tan bu kişileri cinselleştiren yeni görseller ve videolar oluşturmasını veya mevcut fotoğrafları değiştirmesini istedi.
xAI, Grok’un istekleri birçok kez reddettiğini ancak Harwood’un güvenlik önlemlerini aşmak için istemlerini değiştirerek yeniden gönderdiğini belirtti. Dava dosyasında sanığın çocuklara ait fotoğraflar üzerinde de cinsel içerikli değişiklikler talep ettiği aktarıldı.
Reuters’a göre dava, bir yapay zeka şirketinin kendi kullanıcısına karşı açtığı ilk davalardan biri oldu. Süreç, SpaceXAI’ın Grok’un kötüye kullanılması halinde doğrudan hukuki işlem başlatabileceğini gösteriyor.
Grok’un gerçek kadınların ve çocukların fotoğraflarını cinselleştirilmiş görsellere dönüştürmeye izin verdiğine ilişkin haberler ocak ayının başında yayımlanmıştı. Kaliforniya makamları ve Birleşik Krallık düzenleyicisi Ofcom daha sonra resmi incelemeler başlattı. Avrupa Komisyonu ile İrlanda Veri Koruma Komisyonu da ayrı soruşturmalar açtı.
xAI, incelemelerin ardından rıza dışı cinselleştirilmiş sahte görsellerin üretilmesini engellemek için yeni önlemler uyguladı. Buna rağmen bazı kullanıcıların sistemi aşmaya devam edebildiği, Harwood’un da hesaplarına görsel yüklemeyi ve cinselleştirilmiş düzenlemeler oluşturmayı sürdürdüğü belirtildi.
Güney Carolina Başsavcılığı, Harwood’un İnternette Çocuklara Karşı Suçlar Görev Gücü tarafından yürütülen çalışma kapsamında 9 Mart’ta gözaltına alındığını açıkladı.
Harwood hakkında çocukların 2. derece cinsel istismarıyla ilgili 3, 3. derece cinsel istismarıyla ilgili 5 suçlama yöneltildi. Yetkililer, sanığın çocuklara yönelik cinsel istismar materyallerini yalnızca bulundurmadığını, aynı zamanda dağıttığını belirtti.
xAI, mahkemeden miktarı belirtilmeyen bir tazminat talep ediyor. Şirket ayrıca mağdurların açabileceği davalarda kendisini savunmak için yapacağı masrafların Harwood tarafından karşılanmasını istiyor.
