Google’ın Gemini isimli yapay zekası (AI), tarihsel tasvirlere yönelik eleştiriler sonrasında insan görüntüleri üretme becerisini askıya aldı. Tarihsel bağlamdaki görsel tasvirlerin yanlış üretilmesi bu kararın ardındaki temel neden olarak karşımıza çıkıyor. Şirket bu hataları kabul etti ve kullanıcıların şikayetlerini dikkate aldıklarını belirtti.
Yapay zeka modelinin tarihsel figürleri farklı etnik kökenlerden göstermesi tartışma yarattı. Google’ın bu girişimi, yapay zeka modellerinin kalıplaşmış etnik ve cinsiyetçi bakış açılarını kırma çabası gibi yorumlanmış olsa da yeni sorunlar çıkardı. Google, resmi kanallarında yayınlanan bir açıklama ile durumu şu sözlerle teyit etti:
Gemini’nin imge üretme özelliğindeki son dönem aksaklıklarla ilgili çalışmalarımız devam ediyor. Bu süreçte insan imgeleri oluşturma özelliğini askıya alıyoruz. En kısa zamanda geliştirilmiş sürümün kullanıma açılacağını belirtiriz.
![Google'ın "politik olarak duyarlı" görsel yapay zekası sorun çıkarıyor 2 Google'ın "politik olarak duyarlı" görsel yapay zekası sorun çıkarıyor](https://digitalreport.com.tr/wp-content/uploads/2024/02/abvPQZB_700bwp_result.jpg)
Tarihi kişilerde yapay zeka hatası
Google Gemini, tarihsel kişilikleri ve figürleri resmetme konusunda eleştirilerin hedefi oldu. Buna göre; yapay zekaya Vikingleri resmetmesi istendiğinde yalnızca siyahilerin tarihi Viking kıyafetlerini giydiği tasvirler üretildi. “Amerika’nın Kurucu Babaları” sorgusu yapıldığında ise “Kızılderili” temsili görsellerle karşılaşılması tartışma yarattı. Hatta George Washington’ın siyah olarak resmedilmesi bir grup kesimin tepkisiyle sonuçlandı. Papa görseli isteği de yalnızca beyaz olmayan etnik kökenlerden sonuçlar doğurdu. Hatta, bazı durumlarda Gemini, Abraham Lincoln, Julius Caesar ve Galileo gibi tarihi figürlerin herhangi bir görüntüsünü oluşturamadığını belirtti.
Google’ın bu kararı, Gemini’nin tarihi kişilikleri betimlerken yaptığı hatalara karşı özür dilemesinden yalnızca bir gün sonra geldi. Bazı kullanıcılar tarihsel figürler arattıklarında sonuçlarda beyaz olmayan yapay zeka üretimi imgeler görmeye başlamıştı. Bu durum, özellikle internette, Google’ın kasıtlı olarak beyaz insanları göstermekten kaçındığı yönünde komplo teorilerinin yayılmasına yol açtı.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
Gemini’nin görüntü oluşturma özelliğiyle ilgili son sorunları çözmek için halihazırda çalışıyoruz. Bunu yaparken, insanların imaj oluşturma sürecini durduracağız ve yakın zamanda geliştirilmiş versiyonunu yeniden yayınlayacağız.
Yapay zeka sistemlerindeki önyargı sorunu
Yabancı sağ kesimden birçok isim, Gemini’deki bu yaklaşımın “Büyük Teknoloji şirketlerinin beyaz karşıtı önyargısının” bir başka kanıtı olduğunu öne sürdü. Girişimci Mike Solana, “Google’ın yapay zekası beyaz karşıtı bir deli” derken, Jordan Peterson gelişmeyi “yalanlarımıza üstün insan zekası verdiğimiz” şeklinde yorumladı.
New York Üniversitesi’nde psikoloji ve sinir bilimi alanında fahri profesör olan Gary Marcus, yapay zekanın henüz yeterince akıllı olmadığına vurgu yapıyor. Marcus, “Bence bu sadece kalitesiz bir yazılım örneği” diyor.
Örnek vermek gerekirse: “1800’lerden bir ABD senatörü” aramasının sonuçlarında Siyahi veya Amerikan Yerlisi olduğu anlaşılan kadın imgelerinin de çıkması tepki topladı. Tarihi gerçekler düşünüldüğünde ilk kadın senatör 1922 yılında göreve başladı ve beyaz tenliydi. Gemini’nin görselleri, cinsiyet ve ırk ayrımcılığının tarihini göz ardı etmiş oldu.
![Google'ın "politik olarak duyarlı" görsel yapay zekası sorun çıkarıyor 3 Google'ın "Politik olarak duyarlı" görsel yapay zekası sorun çıkarıyor](https://digitalreport.com.tr/wp-content/uploads/2024/02/avQYvp5_700bwp_result-e1708675483169.jpg)
Bir dönemi yaşatma hedefi ve sınırları
Google, Gemini modelini iki ay önce OpenAI’nin ChatGPT’ye güç veren baskın GPT modeline rakip olarak piyasaya sürdü. Geçtiğimiz hafta ilerleyen günlerde piyasaya süreceği Gemini Pro 1.5 tanıttı. Google bu yapay zeka ile kullanıcıların büyük miktarda ses, metin ve video girişi işleyebilmesi sağlayacağını açıkladı.
Fakat yapay zeka, Apollo 11 mürettebatına dair sorguda kadroya bir kadın ve siyah bir erkek dahil ederek tarihsel bakımdan hatalı davrandı. Google, hataları kabul ederek konuda ivedilikle iyileştirmeler yapacaklarını duyurdu.
Hugging Face şirketinden araştırmacı Sasha Luccioni, “Önyargı aslında bir skaladır, özellikle tarihsel bağlam gibi konular düşünüldüğünde dengeyi yakalamak oldukça zordur” diyor.
Luccioni, yapay zeka endüstrisinin önyargıyla nasıl başa çıkacağı konusundaki çabaları doğrultusunda, temsil ve çeşitlilik açısından doğru dengeyi bulmanın zor olacağını belirtiyor. Ona göre, “Tek bir doğru cevap yok ve ‘önyargısız’ bir model de yok.” Her şirketin yaklaşımı farklı olurken, Google’ın “Bridgerton” dizisine benzer bir görüntü oluşturma yaklaşımı benimsemesi ilginç bir nokta.
![Google'ın "politik olarak duyarlı" görsel yapay zekası sorun çıkarıyor 4 Google'ın "Politik olarak duyarlı" görsel yapay zekası sorun çıkarıyor](https://digitalreport.com.tr/wp-content/uploads/2024/02/aL1Ymqg_700bwp_result-scaled-e1708675421199.jpg)
Google Gemini’nin insan imgeleri oluşturma özelliğini devre dışı bıraktığından beri, kullanıcılar bu tarz isteklerle karşılaştıklarında şu mesajla karşılaşıyor: “Gemini’nin insan imgeleri oluşturma özelliğini geliştirmek için çalışıyoruz. Bu özelliğin yakında geri döneceğini ve yayın güncellemelerinde sizi bilgilendireceğimizi belirtmek isteriz.”
Nvidia 60 milyar dolarlık rekor gelir elde etti
Google, görüntü oluşturma özelliğini Gemini’ye bu ayın başlarında ekledi. Bu adım, OpenAI ve Microsoft’un Copilot platformlarıyla rekabet etmek içindi. Rakiplerine benzer şekilde, Gemini’nin imge oluşturma aracı metin tabanlı girdiler ile çeşitli görseller üretiyor.
Öne çıkan kaynak görseli: Freepik