Üretken yapay zeka teknolojilerinin hızla gelişmesi, birçok yeniliği getirirken, bazı istenmeyen sonuçları da beraberinde getirdi. Özellikle “deepfake” adı verilen sahte görüntüler, internet ortamında bireyleri tehdit ediyor ve hızla yayılıyor. Yayılan görüntüler arasında izinsiz oluşturulan müstehcen fotoğraflar, kullanıcılara ciddi zararlar verebiliyor. Microsoft ise deepfake mağdurlarına yardımcı olmak için kolları sıvamış durumda. İşte tüm detaylar…
Microsoft’tan deepfake mağdurlarına yardım
Microsoft, deepfake mağdurlarının bu tür içerikleri Bing arama motorundan kaldırmalarını sağlayan yeni bir araç sunarak önemli bir adım atıyor. Yapay zeka teknolojilerinin gelişmesiyle internet üzerinde sahte pornografik içeriklerin yayılması hızlandı ve bu durum mağdurlar üzerinde büyük bir baskı oluşturuyor. Microsoft’un geliştirdiği bu yeni araç, mağdurlara dijital dünyada kontrol sağlama imkânı sunmayı ve zararlı içeriklerin yayılmasını durdurmayı hedefliyor.
StopNCII ile güç birliği: Dijital parmak izi teknolojisi
Microsoft, deepfake ve izinsiz paylaşılan çıplak görüntülerle mücadelede StopNCII (Stop Non-Consensual Intimate Images) adlı organizasyonla işbirliği yapıyor. StopNCII, mağdurların müstehcen görüntülerinin dijital bir “parmak izi”ni (hash) oluşturarak bu görüntülerin izlenmesini ve kaldırılmasını sağlıyor. Görüntülerin ister gerçek ister yapay zeka tarafından üretilmiş olması fark etmiyor; bu dijital parmak izi sayesinde görüntüler farklı platformlarda tespit edilip kaldırılabiliyor.
FTC, deepfake’lere karşı düzenleme getiriyor
Microsoft Bing arama motoru da artık bu çabanın bir parçası. Facebook, Instagram, TikTok ve Reddit gibi popüler platformlarla birlikte çalışan Bing, zararlı içeriklerin daha etkin şekilde tespit edilmesine ve kaldırılmasına katkı sağlıyor. Daha önce Microsoft, kullanıcıların zararlı içerikleri doğrudan raporlayabildiği bir araç sunmuştu ancak bu yöntem, hızla yayılan içeriklerle başa çıkmakta yeterli olmuyordu. StopNCII’nin dijital parmak izi teknolojisi sayesinde, bu içeriklerin arama sonuçlarında görünmesi daha proaktif bir şekilde engelleniyor.
Microsoft’un dijital güvenlik yaklaşımı
Microsoft, izinsiz paylaşılan mahrem görüntülerin yol açtığı zararların farkında ve bu konuda uzun süredir çalışmalar yapıyor. 2015 yılında, kullanıcıların rızaları dışında paylaşılmış görüntüleri bildirmelerine ve kaldırmalarına olanak tanıyan bir raporlama aracı başlatmıştı. Ancak teknoloji geliştikçe, Microsoft da bu alandaki stratejilerini güncelledi.
Şirket, yapay zeka tarafından üretilen içeriklerin mağdurlarını korumak için daha modern yasalar çıkarılması gerektiğini savunuyor ve çevrimiçi istismara karşı kadınlar ve çocuklar için çeşitli politika önerileri sunuyor. Ayrıca, Bing, Xbox ve diğer platformlarında bu tür içeriklerin oluşturulmasını ve yayılmasını engellemek için iç politikalarını sürekli olarak geliştiriyor.
Öne çıkan görsel kaynağı: Johannes Krupinski / Unsplash
