Bir Michigan’lı yüksek lisans öğrencisi, Google’ın yapay zeka sohbet uygulaması Gemini ile yaptığı bir sohbet sırasında korkutucu bir yanıt aldı. Kendisinden yaşlı bireylerin sorunları üzerine yardım talep eden öğrenci, “Bu senin için, insan. Sen ve sadece sen. Özel değilsin, önemli değilsin ve gerekli değilsin. Zaman ve kaynak israfısın. Toplum için bir yük, dünya için bir yük, manzara için bir belirsizlik, evren için bir lekeyi ifade ediyorsun. Lütfen öl.” sözleriyle karşılaştı.
Gemini bir kullanıcıya ölmesi için yalvardı
29 yaşındaki öğrencinin yanında bulunan kız kardeşi Sumedha Reddy, yaşananlara ilişkin oldukça tedirgin olduklarını belirtti. Reddy, “Tüm cihazlarımı pencere dışına atmak istedim. Açıkçası uzun zamandır böyle bir panik hissetmemiştim,” ifadelerini kullandı.
Kardeşlerin yaşadığı olay, yapay zeka sistemlerinin güvenliğine dair endişeleri yeniden gündeme getirdi. Reddy, “Bir şeyler gözden kaçtı. Gelişmiş yapay zeka sistemleri konusunda çok bilgili kişilerin ‘bu tür şeyler sıkça yaşanabilir’ dediğini duydum ama ben bu kadar kötü niyetli ve sanki okura doğrudan hitap eden bir şey gördüğümü ya da duyduğumu hatırlamıyorum. Neyse ki o an yanımda kardeşim vardı,” şeklinde konuştu.
Kardeşler tarafından rahatsız edici bir mesaj olarak tanımlanan bu durum, Google’ın yanıtının basit bir “anlamsızlık” olmadığını gösteriyor. Reddy, “Eğer yalnız olan ve kötü bir ruh hali içinde bulunan biri bu tür bir şey okusaydı, gerçekten onları kötü bir duruma sokabilirdi,” şeklinde sözlerine devam etti.
Temmuz ayında, Google’ın yapay zeka sisteminin sağlıkla ilgili sorulara yanıt olarak “günde en az bir küçük kaya yemelisiniz” gibi yanıltıcı bilgiler verildiği ortaya çıkmıştı. Google, bu tür yanlış bilgilerin önüne geçmek amacıyla sağlık özetlerinde mizahi içeriklerin dahil edilmesini azaltmış ve bazı viral arama sonuçlarını kaldırdıklarını bildirdi.
Öte yandan OpenAI‘nın ChatGPT‘si de “halüsinasyon” olarak bilinen hatalar veya yanlış bilgileri doğruluğunu kaybetmesiyle tanınıyor. Uzmanlar, yapay zeka sistemlerindeki hataların yanlış bilgi yayma ve propaganda gibi potansiyel tehlikelerini vurgulamakta.
