Twitter’ın otomatik fotoğraf kırpma algoritması, sosyal ağ tarafından düzenlenen bir yarışmanın sonuçlarına göre “genç, ince, açık tenli yüzleri” tercih ediyor.
Şirket, 2021 Mart ayında otomatik fotoğraf kırpmayı devre dışı bırakmıştı. Birçok kullanıcı, bir grup resmi yayınlarken siyahların üzerinde beyazların vurgulandığını tespit etti.
Twitter’ın düzenlediği yarışma da durumu doğruladı. Yapay zeka uzmanları olan katılımcılar, ağın sistemini besleyen ön yargıları ortaya çıkardılar.
Twitter algoritması “genç, ince, açık tenli yüzleri” tercih etti
Kazananlar, algoritmanın “genç, ince, açık tenli yüzler, pürüzsüz cilt dokusu ve basmakalıp kadınsı özelliklere sahip” olduğunu gösterdi. Birincilik, EPFL’de yüksek lisans öğrencisi olan Bogdan Kulynych’e gitti. Ödül ise 3500 dolardı. Yaş ayrımcılığını da ima ederek beyaz veya gri saçlı kişilere karşı ön yargılı olduğuna dikkat çekilirken görsellerde Arapça yazı yerine İngilizceyi tercih ettiği tespit edilen bir başka nokta oldu.
Twitter yapay zekasını iyileştirmeye çalışıyor
Twitter algoritması sürekli geliştiriliyor. Twitter’ın aradığı şey, uzman görüşleri ve bulgularına dayalı olarak, otomatik fotoğraf kırpma için daha iyi bir kılavuz oluşturmak.
Twitter’ın META ekibinin başkanı Rumman Chowdhury, sonuçları analiz etti;
“Modellerimizdeki ön yargıları düşündüğümüzde, bu sadece akademik veya deneysel değil; bunun toplum hakkında düşünme biçimimizle de nasıl çalıştığıyla ilgili”
“Hayat sanatı, sanat da hayatı taklit ediyor” ifadesini kullanıyorum. Bu filtreleri yaratıyoruz çünkü güzel olanın bu olduğunu düşünüyoruz ve bu da modellerimizi eğitmek ve çekici olmanın ne anlama geldiğine dair bu gerçekçi olmayan fikirleri yönlendirmekle sonuçlanıyor.”
-.Rumman Chowdhury
Twitter’ın META ekibi, makine öğreniminin etiğini, şeffaflığını ve hesap verebilirliğini inceliyor.
Kazanan sonuca nasıl ulaştı?
Bogdan Kulynych’in Twitter’ın algoritması hakkında bir sonuca varması için StyleGAN2 adlı bir yapay zeka programı kullandı. Bununla ten rengine, kadın ve erkek yüz özelliklerine ve inceliğine göre çeşitlendirdiği çok sayıda gerçek yüz üretti.
Vay canına, bu haftanın beklenmedik bir sonucuydu! Gönderim, Twitter’ın Algoritmik Ön yargı programında 1. sırayı aldı. Çok teşekkürler @ruchowdh, @TwitterEng META ekibi ve jüri…
— Bogdan Kulynych (@hiddenmarkov) 8 Ağustos 2021
Twitter’ın açıkladığı gibi, Kulynych varyantları ağın otomatik fotoğraf kırpma algoritmasında işledi ve hangisinin tercih edildiğini buldu.
Yapay zekanın ön yargılarıyla nasıl mücadele ediliyor?
Twitter, algoritmik sistemlerde sosyal yanlılığın yaygın doğasını doğruladı. Şimdi yeni bir meydan okuma geliyor:
Bu ön yargılarla nasıl savaşılır? Yapay zeka araştırmacısı Patrick Hall “Veri bilimi ekibinizin ne kadar yetenekli olduğunu düşünürseniz düşünün, yapay zeka ve makine öğrenimi yalnızca Vahşi Batı’dır” dedi.
“Sen hatalarını bulamıyorsan ya da yapılan yarışmalar hatalarını bulmuyorsa, hatalarını kim buluyor? Çünkü hataların var.”
Sözleri, benzer başarısızlıkları olan diğer şirketlerin çalışmalarını da ilgilendiriyor. Verge, bir MIT ekibinin Amazon’un yüz tanıma algoritmalarında ırk ve cinsiyet yanlılığı bulduğunda, şirketin araştırmacıları itibarsızlaştırdığını hatırlıyor.