Apple, çocuk istismarı sorununa karşı radikal adımlar atıyor. Şirketin yeni kararları gizlilik tartışmalarının yeniden alevlenmesine sebep oldu.
Makine öğrenimine dayalı yeni işlev şu an için bazı ülkelere gelmeyecek. İlk olarak Amerika Birleşik Devletleri’nde test edilecek olan özellik daha şimdiden uzmanlar ve kullanıcılar arasında şüphe uyandırdı.
Apple, perşembe günü Johns Hopkins Üniversitesi’nde kriptografi profesörü olan Matthew Green’in Twitter’da paylaştığı bilgileri doğruladı. iPhone kullanıcıları, iMessage ile göndermeye çalıştıkları fotoğraflardan herhangi birinin reşit olmayanlara ait müstehcen bir içerik olmasından şüphelenildiği durumlarda uyarılar alacak.
Apple bu sistemin nasıl çalıştığını özetleyen bir raporda ayrıntılar paylaştı: Mesajlar, fotoğraf eklerini analiz etmek ve bir içeriğin müstehcen olup olmadığını belirlemek için makine öğrenimi teknolojisini kullanıyor. Ancak bu özellik Apple’a ya da herhangi bir Apple çalışanına iPhone kullanıcılarının mesajlarına erişim hakkı tanımıyor.
Çocuk istimarı karşıtı sistem nasıl çalışıyor?
Teknoloji, kullanıcıların paylaşmak istediği tüm görüntülerin analiz edileceği iOS, macOS, WatchOS ve iMessage’da kullanılacak. Bunu yapmak için NeuralHash olarak bilinen makine öğrenimi algoritmaları çalışacak.
Bu teknoloji, şüpheli içeriği görüntülemeye veya dosyayı açmaya gerek kalmadan analiz etmeye yarıyor. Her fotoğrafı, dijital parmak izi gibi içeriğini tanımlayan ancak herhangi bir kullanıcının anlaması imkansız olan benzersiz bir sayıya dönüştürerek çalışan sistem, bu sayede kullanıcı gizliliğini ihlal etmiyor. Bu kodu, şirket tarafından şüpheli içerik olarak belirlenen kodlarla karşılaştırdıktan sonra, bir kod ile diğeri arasında yeterli eşleşme tespit edilirse, görüntüyü bulanıklaştıran ve paylaşılmasını engelleyen bir uyarı oluşturuluyor.
Apple, çocukları şüpheli olarak sınıflandırılan içerik göndermek isterse ebeveynlerin uyarı alabilmesini de sağlıyor. Yetkililer, gerekli görüldüğü halde bir ekibinin görüntüleri inceleyebilmesi için de işlem başlatabilir.
Matthew Green Twitter hesabında, bu teknolojinin yüksek doğrulukla çalışmadığı için yanlış pozitifler verebileceğini açıkladı ve “Bu bilerek yapılıyor. Yeniden boyutlandırılmış, sıkıştırılmış vb. olsalar bile kötü görüntülere benzeyen görüntüleri bulmak için tasarlandı.” dedi. Apple bu iddiayı reddediyor ve “Sistemin bir hesabı yanlış işaretleme riski son derece düşük. Ayrıca Apple, raporların doğruluğunu sağlamak için NCMEC’e yapılan tüm raporları manuel olarak inceliyor.” diyor.
Gizlilik risklidir
Siber güvenlik uzmanı Green suçluları ve teröristleri takip etmek için önemli bir araç olabilecek şeyin, aynı zamanda masum vatandaşların mahremiyetine yönelik bir tehdit ve totaliter rejimler için çok faydalı bir silah olarak da kullanılabileceğini belirtiyor.
Bu yeni araçla ilgili sorun, bu benzerlikleri nerede arayacakları olacak. Cihazlarda saklanan ve iCloud’da saklanan fotoğraflar Apple sunucularında şifreli olarak saklanıyor ancak uzmanların açıkladığı gibi Apple bu kodların şifresini çözecek anahtarlara sahip.
Uçtan uca şifrelemeye (E2E) sahip olanlar, WhatsApp gibi bir cihazdan diğerine korunan iMessage’lar sohbete dahil olan kullanıcılar dışında kimse tarafından görüntülenemiyor. Teoride, Apple’ın yeni sisteminin devreye gireceği yer burası.
İçerik analizi yeni bir tartışma konusu değil. Facebook, sosyal ağlarında (Facebook ve Instagram) çıplaklık için gönderileri tarıyor. Apple ayrıca e-posta yoluyla gönderilen çocuk istismarı görüntülerini, Gmail’e benzer sistemleri ve uçtan uca şifrelemeyle korunmayan diğer bulut e-posta sağlayıcılarını aramak için karma sistemleri kullanmakta.
Green, bu teknolojinin rahatsız edici bir mesaj gönderdiğine inanıyor ve konuyla ilgili “Apple’ın uzun vadeli planlarından bağımsız olarak, çok net bir sinyal gönderdiler. Yasaklanmış içerik için kullanıcıların telefonlarını tarayan sistemler oluşturmak…” ifadesini kullandı.
Tüm siber güvenlik uzmanları ise konuya bu kadar eleştirel yaklaşmıyor. UC Berkeley’deki Uluslararası Bilgisayar Bilimleri Enstitüsü’nde kıdemli araştırma görevlisi olan Nicholas Weaver, Apple’ın yeni Mesajlar özelliği için “Çok iyi bir fikir gibi görünüyor. Genel olarak, Apple’ın yaklaşımının etkili olduğu ve gizlilik konusunun iyi düşünülmüş olduğu görünüyor” yorumunu yaptı.
