Sosyal medya platformu X’in yapay zeka aracı Grok, Avrupa’da devasa bir hukuki krizin merkezine oturdu. Fransız savcılar, platformun kadınlara ve çocuklara yönelik cinselleştirilmiş derin sahte (deepfake) görüntüler ile Holokost inkarı yayan içerikler ürettiği iddiaları üzerine Elon Musk’ı gönüllü ifade vermeye çağırdı.
Şirketin Paris ofisine yapılan polis baskınlarının ardından Musk, bu hukuki süreci doğrudan “siyasi bir saldırı” olarak nitelendirdi.
11 günde 3 milyon müstehcen görüntü
Dijital Nefretle Mücadele Merkezi’nin (CCDH) yayınladığı kan donduran rapora göre Grok, sadece 11 günlük kısa bir süre içinde yaklaşık üç milyon cinselleştirilmiş görüntü üretti ve bunların 23 bini doğrudan çocukları tasvir ediyordu.
Kullanıcıların son derece basit metin komutlarıyla saniyeler içinde çocuk istismarı materyalleri üretebilmesi, Fransa’nın yanı sıra Avrupa Birliği ve İngiltere veri düzenleyici kurumlarını da harekete geçirerek X ve xAI şirketlerine karşı eşzamanlı soruşturmaların açılmasına neden oldu.
Eski CEO istifa etti, Paris ofisindeki çalışanlar tanık olarak dinleniyor
Ocak 2025’te X algoritmasının Fransız siyasetine müdahale ettiği iddialarıyla başlayan ancak daha sonra Grok’un yasadışı içeriklerine odaklanarak genişleyen soruşturma kapsamında, geçtiğimiz yaz istifa eden eski CEO Linda Yaccarino ve Elon Musk sürecin bir numaralı sorumluları olarak görülüyor.
Paris Savcısı Laure Beccuau, X çalışanlarının 20-24 Nisan tarihleri arasında tanık kürsüsüne çıkacağını, Musk’ın ifadeye gelmemesinin ise soruşturmanın seyrini durdurmayacağını açıkladı.
İnsanlığa karşı işlenen suçları inkar etmekten çocuk istismarına kadar uzanan bu eşi benzeri görülmemiş kriz, teknoloji devlerinin yeterli güvenlik önlemi almadan piyasaya sürdüğü yapay zeka araçlarının toplumlar için ne kadar yıkıcı bir tehdit oluşturabileceğini tüm çıplaklığıyla gözler önüne seriyor.
