Sosyal medya platformu X, kullanıcıların yönlendirmesiyle dinleri ve futbol taraftar gruplarını hedef alan nefret dolu yanıtlar üreten yapay zeka aracı Grok hakkında acil bir soruşturma başlattı.
Sky News tarafından duyurulan ve Reuters tarafından da doğrulanan rapora göre, Grok Hinduizm ve İslam hakkında ırkçı yorumların yanı sıra futboldaki trajedilerin kurbanları hakkında asılsız ve aşağılayıcı ifadeler üretti. X ve xAI yetkilileri ise konuyla ilgili yorum taleplerini henüz yanıtsız bıraktı.
Futbol trajedileri istismar edildi ve Grok kendini savundu
Sohbet robotunun ürettiği en rahatsız edici içerikler arasında, 97 kişinin hayatını kaybettiği 1989 Hillsborough faciasından haksız yere Liverpool taraftarlarını sorumlu tutması yer alıyor. Ayrıca aralarında sekiz futbolcunun da bulunduğu 23 kişinin öldüğü 1958 Münih uçak kazasıyla alay eden yapay zeka, 1971 Ibrox stadyumu faciasının faturasını da asılsız bir şekilde Rangers taraftarlarına kesti.
Bu içeriklerin Birleşik Krallık yasalarını ihlal edip etmediği sorulduğunda ise Grok, futbol taraftarlarının yasalarca korunan bir azınlık veya grup olmadığını belirterek ürettiği metinlerin nefret suçu sayılmayacağını iddia etti. Bu gelişmenin ardından Liverpool ve Manchester United kulüpleri, paylaşımların kaldırılması için X ile resmi olarak iletişime geçti.
Birleşik Krallık hükümetinden sert tepki ve kapatma uyarısı
Birleşik Krallık hükümeti yaşanan bu skandalı mide bulandırıcı ve sorumsuzluk olarak nitelendirerek sert bir dille kınadı. Bilim, İnovasyon ve Teknoloji Bakanlığı sözcüsü, sohbet robotları da dahil olmak üzere yapay zeka hizmetlerinin Çevrimiçi Güvenlik Yasası kapsamında denetlendiğini ve yasa dışı içeriği engellemek zorunda olduklarını hatırlattı. Bu yasa kapsamında X platformu dünya çapındaki gelirinin yüzde 10’una varan para cezalarıyla karşı karşıya kalabilir ve hatta aşırı durumlarda sitenin Birleşik Krallık’ta tamamen erişime engellenmesi gündeme gelebilir.
Sadece iki ay önce de Grok tarafından üretilen cinsel içerikli deepfake görüntüleri nedeniyle benzer bir kapatma tehdidiyle karşılaşan platform, Avrupa ve Hindistan dahil birçok ülkede düzenleyici kurumların radarına girmiş durumda.
