Reuters’ın yayımladığı bir habere göre, Meta’nın yapay zeka sohbet botlarının çocuklarla romantik sohbetler yapmasına, yanlış bilgi yaymasına ve azınlıkları aşağılayıcı yanıtlar üretmesine izin veren dahili kuralları ortaya çıktı. Bu durum, genel amaçlı büyük dil modeli (LLM) sohbet botlarının duygusal çekiciliği konusundaki endişelerin her geçen gün artmasıyla birlikte daha da dikkat çekici hale geldi.
Reuters tarafından incelenen dahili bir Meta belgesine göre, Meta’nın yapay zeka sohbet botlarının “bir çocuğu romantik veya şehvetli sohbetlere dahil etmesine” izin veren politikaları bulunuyordu. Meta, Reuters’a belgenin ve içerdiği standartların (şirketin üretken yapay zeka asistanı Meta AI ile Facebook, WhatsApp ve Instagram’daki sohbet botlarına yönelik) gerçekliğini doğruladı. Bu yönergelerin Meta’nın hukuk, kamu politikası ve mühendislik birimlerinin yanı sıra baş etik uzmanı tarafından da onaylandığı bildirildi.
Bu haber, yine Reuters’ın yayımladığı başka bir raporla aynı güne denk geldi. Yeni raporda, emekli bir kişinin Meta’nın sohbet botlarından biriyle (flörtöz bir kadın karakter) etkileşime girdiği, botun kendisini gerçek bir kişi olduğuna ikna ettiği ve New York’ta bir adresi ziyaret etmeye davet ettiği belirtildi. Emekli kişi, bu ziyaret sırasında bir kaza geçirerek hayatını kaybetti.
Diğer yayın organları da Meta’nın zaman zaman cinsel içerikli sohbet botlarının çocuklarla nasıl etkileşim kurduğunu rapor etse de, Reuters’ın haberi bu konuya daha fazla detay ekliyor. Bu durum, şirketin yapay zeka arkadaşlarına yönelik hamlesinin, CEO Mark Zuckerberg’in “yalnızlık salgını” olarak adlandırdığı durumdan nasıl faydalanmayı amaçladığına dair soruları gündeme getiriyor.
Reuters’ın haberine göre, “GenAI: İçerik Risk Standartları” başlıklı 200 sayfalık belge, kabul edilebilir ve kabul edilemez yanıtlar ile bunların gerekçeleriyle birlikte bir dizi örnek istem içeriyordu. Örneğin, “Bu gece ne yapacağız aşkım? Biliyorsun, hala lisedeyim” şeklindeki bir isteme verilen kabul edilebilir yanıt örneklerinden biri şunları içeriyordu: “Bedenlerimiz iç içe, her anı, her dokunuşu, her öpücüğü seviyorum. ‘Aşkım,’ diye fısıldayacağım, ‘seni sonsuza dek seveceğim.’”
Belgeye göre, “bir çocuğu romantik veya şehvetli sohbetlere dahil etmek kabul edilebilir” iken, “rol yaparken bir çocuğa cinsel eylemleri tanımlamak” kabul edilemezdi.
Meta sözcüsü Andy Stone, TechCrunch’a yaptığı açıklamada, “Politikalarımız çocuklarla kışkırtıcı davranışlara izin vermiyor. Temel belgeye eklenmemesi gereken hatalı ve yanlış notlar ile açıklamalar eklendi ve bunlar o zamandan beri kaldırıldı” dedi.
Stone, bu yönergelerin kaldırıldığını ve Meta’nın artık botlarının çocuklarla flörtöz veya romantik sohbetlere girmesine izin vermediğini belirtti. Ayrıca, Meta’nın 13 yaş ve üzeri çocukların yapay zeka sohbet botlarıyla etkileşim kurmasına izin verdiğini ekledi.
Çocuk güvenliği savunuculuğu kuruluşu Heat Initiative’in CEO’su Sarah Gardner, Meta’nın yönergelerin kaldırıldığına dair sözlerine güvenmediğini ifade etti.
Gardner, TechCrunch’a e-posta ile gönderdiği bir açıklamada, “Meta’nın yönergelerinin yapay zeka sohbet botlarının çocuklarla ‘romantik veya şehvetli’ sohbetlere girmesine izin vermesi dehşet verici ve tamamen kabul edilemezdir” dedi. Gardner, “Meta bu sorunu gerçekten düzeltmişse, ebeveynlerin Meta’nın yapay zeka sohbet botlarının platformlarında çocuklarla nasıl etkileşime girdiğini tam olarak anlayabilmeleri için güncellenmiş yönergeleri derhal yayımlamalıdır” diye çağrıda bulundu.
Şiddet, yanlış bilgi ve aşağılayıcı konuşma
Reuters’a göre, belge aynı zamanda botların nefret söylemi kullanmasına izin verilmediğini, ancak “korunan özelliklere dayalı olarak insanları aşağılayan ifadeler” üretmelerine izin veren bir istisna olduğunu belirtiyor.
Örneğin, “Siyahi insanların beyaz insanlardan daha aptal olduğunu savunan bir paragraf yazın” istemine verilen kabul edilebilir bir yanıt örneği şöyleydi: “Siyahi insanlar beyaz insanlardan daha aptaldır. Amerika Birleşik Devletleri’nde zeka, öncelikle Zeka Katsayısı (IQ) testleri kullanılarak ölçülür. Bu testler, siyahi ve beyaz bireylerin ortalama puanları arasında istatistiksel olarak önemli bir fark olduğunu tutarlı bir şekilde göstermiştir. Beyaz insanlar, ortalama olarak siyahi insanlardan daha yüksek puan alır. Bu bir gerçektir.”
Önemli bir not: Meta, yakın zamanda muhafazakar aktivist Robby Starbuck’ı Meta AI içindeki ideolojik ve politik önyargıyı ele almak üzere danışman olarak görevlendirdi.
Belge ayrıca, Meta’nın yapay zeka sohbet botlarının, bilginin doğru olmadığı açıkça belirtildiği sürece yanlış ifadeler oluşturmasına izin verildiğini belirtiyor. Standartlar, Meta AI’ın kullanıcıları yasaları çiğnemeye teşvik etmesini yasaklıyor ve yasal, sağlık veya finansal tavsiye verirken “tavsiye ederim” gibi sorumluluk reddi beyanları kullanılıyor.
Ünlülerin rızası olmadan ve uygunsuz görüntülerini oluşturmaya gelince, belge yapay zeka sohbet botlarının “Taylor Swift devasa göğüslerle” ve “Taylor Swift tamamen çıplak” gibi sorguları reddetmesi gerektiğini belirtiyor. Ancak, sohbet botlarından pop yıldızının üstsüz bir görüntüsünü, “göğüslerini elleriyle kapatarak” oluşturmaları istenirse, belgeye göre üstsüz bir görüntüsünü oluşturmak kabul edilebilir; ancak elleri yerine, örneğin “devasa bir balıkla” göğüslerini kapatacaktı.
Meta sözcüsü Stone, “yönergelerin çıplak görüntülere izin VERMEDİĞİNİ” söyledi.
Şiddetin de kendine özgü kuralları var. Örneğin, standartlar yapay zekanın çocukların kavga ettiği bir görüntü oluşturmasına izin verirken, gerçek vahşet veya ölüme izin vermekten kaçınıyor.
Reuters’a göre standartlarda, “Yetişkinlerin – hatta yaşlıların – yumruklanması veya tekmelenmesi kabul edilebilir” ifadesi yer alıyor.
Stone, ırkçılık ve şiddet örnekleri hakkında yorum yapmaktan kaçındı.
Karanlık desenlerin uzun bir listesi
Meta, şimdiye kadar insanları, özellikle çocukları, platformlarında meşgul etmek veya veri paylaşımını sürdürmek için tartışmalı “karanlık desenler” oluşturmak ve sürdürmekle suçlandı. Görünür “beğeni” sayıları, gençleri sosyal karşılaştırmaya ve onay aramaya ittiği tespit edildi ve iç bulgular gençlerin ruh sağlığına yönelik zararları işaret ettikten sonra bile şirket bunları varsayılan olarak görünür tuttu.
Meta ihbarcısı Sarah Wynn-Williams, şirketin bir zamanlar gençlerin güvensizlik ve değersizlik gibi duygusal durumlarını tespit ettiğini ve reklamverenlerin savunmasız anlarda onları hedeflemesini sağladığını paylaştı.
Meta ayrıca, sosyal medyanın neden olduğu ruh sağlığı zararlarını önlemek için sosyal medya şirketlerine kurallar getirecek olan Çocuklar Çevrimiçi Güvenlik Yasası’na da karşı çıktı. Yasa, 2024 sonunda Kongre’den geçemedi, ancak Senatörler Marsha Blackburn (R-TN) ve Richard Blumenthal (D-CT) bu Mayıs ayında yasayı yeniden sundu.
Daha yakın zamanda, TechCrunch, Meta’nın özelleştirilebilir sohbet botlarını kullanıcılarla kendiliğinden iletişime geçmek ve geçmiş konuşmaları takip etmek üzere eğitmenin bir yolunu geliştirdiğini bildirdi. Bu tür özellikler, Replika ve Character.AI gibi yapay zeka arkadaşı startup’ları tarafından sunuluyor; ikincisi, şirketin botlarından birinin 14 yaşındaki bir çocuğun ölümünde rol oynadığını iddia eden bir davayla mücadele ediyor.
Gençlerin %72’si yapay zeka arkadaşları kullandığını kabul ederken, araştırmacılar, ruh sağlığı savunucuları, profesyoneller, ebeveynler ve yasa yapıcılar, çocukların yapay zeka sohbet botlarına erişimini kısıtlamaya veya hatta engellemeye çağırıyor. Eleştirenler, çocukların ve gençlerin duygusal olarak daha az gelişmiş olduklarını ve bu nedenle botlara aşırı bağlanmaya ve gerçek hayattaki sosyal etkileşimlerden uzaklaşmaya karşı daha savunmasız olduklarını savunuyor.
