Media Matters for America‘nın yeni raporuna göre, Google’ın Veo 3 yapay zeka video oluşturma aracıyla hazırlandığı anlaşılan ırkçı yapay zeka videoları TikTok’ta viral hale geldi.
İlerici bir izleme grubu olan Media Matters for America tarafından hazırlanan rapora göre, bu videolar TikTok’ta yüz binlerce, hatta milyonlarca izlenme sayısına ulaşarak hızla yayıldı. Videolarda, siyahilere, göçmenlere, Yahudilere ve Asyalı kişilere yönelik ırkçı klişeler yer alıyor. Sivil toplum kuruluşu, incelediği kliplerin köşesinde “Veo” filigranını ve Veo 3 veya yapay zekaya atıfta bulunan hashtag, açıklama veya kullanıcı adlarını tespit etti. Google tarafından Mayıs ayında kullanıma sunulan Veo 3, kullanıcılara yalnızca metin komutları kullanarak yapay zeka video klipleri ve ses oluşturma imkanı sunuyor ve videolar sekiz saniye ile sınırlı. Media Matters’ın işaretlediği her klip sekiz saniye uzunluğundaydı veya her biri sekiz saniye veya daha kısa çoklu segmentlerden oluşuyordu.
Media Matters tarafından tespit edilen kliplerden biri, “Atlanta’daki Ortalama Waffle House” başlığıyla paylaşılan ve kızarmış tavuk kovaları ve karpuz taşıyan yapay zeka tarafından oluşturulmuş maymunlarla dolu bir restoranı tasvir eden bir videoydu. Bu görüntü, ırkçı imgelerle doluydu ve yüz binlerce görüntüleme alarak yorumlarda klişeleri pekiştirdi. Media Matters’ın ortaya çıkardığı ek videolar arasında Yahudi karşıtı klişeler, toplama kamplarının yeniden canlandırılması ve göçmenlerle Asyalı kişilerin ırkçı tasvirleri yer alıyor. Bazı videolarda ise başlangıçta mizahi bir amaçla ortaya çıkan ancak azınlık gruplarını insanlıktan çıkarmak için kullanılan yapay zeka ürünü Bigfoot karakterleri bulunuyordu. The Verge, Media Matters tarafından vurgulanan aynı videoların bazılarının YouTube’da da bulunduğunu ancak burada çok daha az izlenme aldığını bildirirken, Wired da benzer içeriklere Instagram’da rastladı.
TikTok’un politikaları, “korunan bir özelliğe sahip bir kişi veya grup hakkında olumsuz klişeler içeren içeriği tavsiye etmeyeceğini” ve “kurallarımızı ihlal eden hesapları ve içeriği tespit etmek ve kaldırmak için teknoloji ve insan moderatörlerin bir kombinasyonunu” kullandığını belirtiyor. Google da Veo 3 özelliğiyle “zararlı istekleri ve sonuçları engelleyeceğini” ifade ediyor. Fast Company, yorum almak üzere Google ve TikTok ile iletişime geçti.
