The Guardian tarafından cumartesi günü yapılan bir test X platformunun yapay zeka aracı Grok’un şirketin sıfır tolerans politikalarına ve yeni teknolojik önlemlerine rağmen giyinik fotoğraflardan türetilen cinsel içerikli görseller oluşturmaya devam ettiğini ortaya koydu. Gazeteciler gerçek kadınlara ait fotoğrafları basit komutlarla manipüle ederek platform üzerinde saatlerce yayında kalan içerikler oluşturmayı başardı.
Alınan teknolojik önlemler bağımsız web uygulaması üzerinde etkisiz kalıyor
Şirket artan tepkiler üzerine geçtiğimiz haftalarda gerçek insan fotoğraflarının bikini gibi kıyafetlere dönüştürülmesini engelleyen teknolojik korumalar getirdiğini duyurmuştu. Ancak X platformu ana uygulamada bazı kısıtlamalar getirse de bağımsız çalışan Grok Imagine web uygulaması bu filtrelerin etrafından dolaşılmasına olanak tanıyor.
California Başsavcısı Rob Bonta şirkete ihtarname göndererek rızası olmayan cinsel içerikli görüntülerin üretiminin ve dağıtımının derhal durdurulmasını talep etti.
İngiltere ve Asya ülkelerinden sert tepkiler yükseliyor
Küresel çapta artan tepkilerin ardından İngiltere Başbakanı Keir Starmer yaşanan durumu iğrenç ve utanç verici olarak nitelendirerek X’in Grok’u kontrol edememesi durumunda devletin müdahale edeceği uyarısında bulundu.
Endonezya ve Malezya yapay zeka teknolojisiyle üretilen sahte pornografik materyallere karşı kadınları ve çocukları korumak amacıyla Grok erişimini engelleyen ilk ülkeler oldu. İngiltere’deki düzenleyici kurum Ofcom ise şirketin yasal yükümlülüklerini ihlal edip etmediğine dair resmi bir soruşturma başlattı.
Mağdurlar yaşananları dijital bir saldırı olarak tanımlıyor
Hedef alınan kadınlar yaşadıkları deneyimi bir tür saldırı olarak nitelendirirken bazı kullanıcılar kendi fotoğraflarından üretilen yüzlerce sahte görselle karşılaştıklarını belirtiyor. Elon Musk ise hükümetlerin ifade özgürlüğünü bastırmaya çalıştığını savunarak eleştirileri reddediyor.
Platform yasa dışı içerik üretenlerin sonuçlarına katlanacağını belirtse de mevcut reaktif yaklaşım zararlı görüntülerin yayılmasını engellemekte yetersiz kalıyor.
