Elon Musk’ın yapay zeka sohbet botu Grok, kullanıcıların kadın ve çocuklara ait cinsel içerikli sahte görseller (deepfake) üretmesinin ardından patlak veren küresel krizle sarsıldı. Platformun bu tür istismarlar için kullanılmasına yönelik artan uluslararası baskı ve tepkilerin ardından xAI, radikal bir karar alarak görüntü oluşturma ve düzenleme özelliklerini ücretsiz kullanıcılara tamamen kapattı.
Kullanıcıların Grok’u kullanarak kadın ve çocukları çıplak veya cinselleştirilmiş pozisyonlarda gösteren görseller ürettiğinin raporlanması, teknoloji dünyasında ve düzenleyici kurumlarda alarm zillerinin çalmasına neden oldu.
Kredi kartı bilgisi zorunluluğu ile anonimlik kalkıyor
Platform, X üzerinden yaptığı duyuruda, “Görüntü oluşturma ve düzenleme şu anda yalnızca ödeme yapan abonelerle sınırlandırılmıştır. Bu özelliklerin kilidini açmak için abone olabilirsiniz,” açıklamasında bulundu. Bu hamle, Grok kullanıcılarının büyük çoğunluğunun artık yapay zeka ile görsel üretemeyeceği anlamına geliyor.
Bu kısıtlamanın arkasındaki temel mantığın sadece gelir elde etmek değil, aynı zamanda hesap verebilirlik olduğu düşünülüyor. Ücretli abonelik için kullanıcıların kredi kartı ve kişisel bilgilerini vermesi gerekiyor. Bu durum, yasa dışı içerik üreten kişilerin kimliklerinin tespit edilmesini kolaylaştırarak anonimliği ortadan kaldırıyor ve caydırıcı bir unsur oluşturuyor.
Avrupa ve İngiltere’den sert tepkiler ve yasal inceleme
Grok’un aldığı bu karar, Avrupa Komisyonu ve dünya liderlerinden gelen sert tepkilerin hemen ardından geldi. Avrupa Komisyonu, üretilen açık saçık görüntülerin yasa dışı olduğunu ilan etti ve X’e, 2026 sonuna kadar Grok ile ilgili tüm iç belgeleri ve verileri saklama emri verdi.
İngiltere Başbakanı Keir Starmer da duruma müdahil olarak X’in “bu durumu kontrol altına alması gerektiğini” belirtti ve iletişim düzenleyicisi Ofcom’dan tüm seçenekleri değerlendirmesini istedi. Starmer, görüntüleri “yasa dışı” olarak nitelendirerek İngiltere’nin bu tür içeriklere tolerans göstermeyeceğini vurguladı. Fransa, Malezya ve Hindistan da platformu eleştiren ülkeler arasında yer aldı.
Musk’tan kullanıcılara uyarı
Tepkilerin odağındaki Elon Musk, geçtiğimiz hafta X üzerinden yaptığı açıklamada şu ifadeleri kullandı:
“Grok’u yasa dışı içerik üretmek için kullanan herkes, sanki yasa dışı içeriği kendisi yüklemiş gibi aynı sonuçlara katlanacaktır.”
X’in resmi Güvenlik hesabı ise yasa dışı içerikleri kaldırdıklarını, hesapları kalıcı olarak askıya aldıklarını ve gerektiğinde yerel hükümetler ve kolluk kuvvetleriyle iş birliği yaptıklarını belirtti.
