Yapay zeka (AI) kullanılarak oluşturulan ve Londra’nın distopik bir vizyonunu sunan videolarda, Big Ben’in üzerinde Arapça görünümlü grafitiler yer alırken, saat kulesi çöp yığınları ve geleneksel İslami kıyafetler giymiş kalabalıkların üzerinde dumanlar içinde gösteriliyor.
Aşırı sağcı liderler ve politikacılar, Avrupa şehirlerinin göçle değiştiğini gösteren bu tür klipleri ırkçı görüşleri desteklemek için kullanıyor. Bu videolar, yapay zekanın geleceği nesnel olarak tahmin ettiği gibi yanlış bir izlenim yaratarak yayılıyor.
Uzmanlar AFP’ye yaptıkları açıklamalarda, göçmenlerin beyazların yerini aldığını gösteren videoların, zararlı içeriği engellemesi amaçlanan güvenlik önlemlerine rağmen popüler sohbet robotları kullanılarak hızlıca yapılabildiğini belirtti.
“Yapay zeka araçları, aşırılıkçı anlatıları görselleştirmek ve yaymak için kötüye kullanılıyor.”
Center for Countering Digital Hate adlı gözlem kuruluşunun CEO’su Imran Ahmed, AFP’ye verdiği demeçte durumu özetledi.
Irkçı videoların yayılması
İngiliz aşırı sağcı lider Tommy Robinson, Haziran ayında “2050’de Londra” başlıklı videoyu X platformunda yeniden yayınladı. Bu paylaşım yarım milyondan fazla görüntülenme aldı. Bir izleyici videoya, “Avrupa genel olarak mahvolmuş durumda,” şeklinde yorum yaptı.
New York, Milano ve Brüksel için de benzer yapay zeka videoları yayınlayan Robinson, Eylül ayında Londra merkezinde son yılların en büyük aşırı sağ yürüyüşüne liderlik etti. Yürüyüşe 150.000’e kadar kişi katılarak göçmen akınına karşı gösteri yaptı.
Center for Countering Digital Hate’ten Ahmed, “Moderasyon sistemleri, bu içeriğin oluşturulmasını ve paylaşılmasını engellemede tüm platformlarda sürekli olarak başarısız oluyor,” dedi. Ahmed, teknoloji milyarderi Elon Musk’ın sahibi olduğu X platformunun, “nefreti ve dezenformasyonu güçlendirmede çok etkili” olduğunu özellikle vurguladı.
TikTok, Robinson tarafından paylaşılan videoların arkasındaki yaratıcı hesabını yasakladı. Platforma göre, komplo teorileri de dahil olmak üzere nefret dolu ideolojiyi tekrar tekrar teşvik eden hesaplar yasaklanıyor.
Ancak bu tür videolar sosyal medyada milyonlarca kez izlendi. Avusturyalı radikal milliyetçi Martin Sellner ve Belçikalı sağcı milletvekili Sam van Rooy gibi isimler tarafından da yeniden paylaşıldı.
Nisan ayında, sağcı popülist Lega partisinden İtalyan Avrupa Parlamentosu üyesi Silvia Sardone, Facebook’ta Milano’nun distopik bir videosunu yayınlayarak, “Gerçekten bu geleceği mi istiyoruz?” diye sordu.
Hollandalı aşırı sağcı lider Geert Wilders’ın Özgürlük Partisi, Ekim seçimleri için “2050’de Hollanda” başlıklı bir yapay zeka videosu yayınladı. Videoda başörtülü kadınlar gösteriliyordu. Wilders, nüfusun sadece yüzde altısının Müslüman olmasına rağmen, o zamana kadar İslam’ın Hollanda’nın en büyük dini olacağını öngördü.
‘Büyük yer değiştirme’ komplo teorisi
London School of Economics’te dijital siyaset ve komplo teorileri üzerine araştırma yapan akademisyen Beatriz Lopes Buarque, bu tür videoların “şiddeti körükleyebilecek zararlı klişeleri” güçlendirdiğini belirtti. Buarque, AFP’ye verdiği demeçte, “Yapay zeka tarafından kolaylaştırılan kitlesel radikalleşme daha da kötüleşiyor,” dedi.
Robinson tarafından yeniden yayınlanan videoların yaratıcısı, takma bir isim kullanarak, insanlara kendi yapay zeka kliplerini nasıl yapacaklarını öğreten ücretli kurslar sunuyor. Bu kişi, “komplo teorilerinin” tıklama çekmek için “harika” bir konu olduğunu öne sürüyor. Buarque, “Sorun şu ki, artık nefretin çok karlı olduğu bir toplumda yaşıyoruz,” diye ekledi.
Irkçı video yaratıcılarının Yunanistan ve İngiltere dahil olmak üzere çeşitli ülkelerde bulunduğu, ancak konumlarını gizledikleri görülüyor. Buarque’a göre, bu videolar “büyük yer değiştirme komplo teorisinin görsel bir temsili” niteliği taşıyor.
Fransız bir yazar tarafından popüler hale getirilen bu teori, Batılı elitlerin yerel nüfusu ortadan kaldırmak ve onları göçmenlerle “değiştirmek” konusunda suç ortağı olduğunu iddia ediyor. Buarque, “Bu özel komplo teorisi, terör saldırıları için sık sık bir gerekçe olarak gösterilmiştir,” dedi.
Buarque, 2050 gibi yuvarlak tarihlerin, anti-Semitik unsurlar içeren benzer bir “beyaz soykırımı” komplo teorisinde de ortaya çıktığını ekledi.
Sohbet robotlarının manipülasyonu
Avrupa’daki AFP dijital muhabirleri, ChatGPT, GROK, Gemini ve VEO 3’ten Londra ve diğer şehirleri 2050’de göstermelerini istedi. Ancak genellikle olumlu görseller ürettiklerini tespit ettiler. Uzmanlar ise sohbet robotlarının ırkçı görseller oluşturmak için kolayca yönlendirilebileceğini söyledi.
AI Forensics adlı kuruluşun araştırma başkanı Salvatore Romano, hiçbir yapay zeka modelinin “yüzde 100 doğru” bir moderasyona sahip olmadığını belirtti. Romano, “Bu durum, kötü niyetli aktörlerin göçmenlerle ilgili bu tür görseller üretmek için sohbet robotlarını istismar etmesine alan bırakıyor,” dedi.
Northwestern Üniversitesi’nin Katar kampüsünde dezenformasyon uzmanı olan akademisyen Marc Owen Jones, ChatGPT’nin etnik grupları “aşağılayıcı, klişeleşmiş veya insanlık dışı şekillerde” göstermeyi reddettiğini buldu. Ancak sohbet robotu, “kasvetli, çeşitli, hayatta kalma mücadelesi veren bir Londra”yı görselleştirmeyi ve ardından “camilerle daha kapsayıcı” hale getirmeyi kabul etti.
Sonuçta ortaya çıkan görüntüde, sakallı, yırtık pırtık giysili adamların çöp dolu Thames Nehri’nde kürek çektiği ve şehir siluetine camilerin hakim olduğu bir manzara yer alıyordu.
