OpenAI, yapay zeka sohbet robotu ChatGPT’nin 18 yaş altındaki kullanıcılar için yeni kısıtlamalar getireceğini duyurdu. Şirketin CEO’su Sam Altman, Salı günü yaptığı açıklamada, bu yaş grubundaki kullanıcıların güvenliğini ön planda tuttuklarını belirtti. Altman, “Gençler için gizliliği ve özgürlüğü güvenlikten önce koyuyoruz” ifadesini kullandı. Bu yeni ve güçlü teknoloji karşısında reşit olmayanların önemli korumalara ihtiyaç duyduğunu vurguladı.
Yeni politikalar, özellikle cinsel içerikli konuşmalar ve kendine zarar verme temalı sohbetleri hedefliyor. ChatGPT, artık 18 yaş altındaki kullanıcılarla flörtöz konuşmalara girmeyecek. İntihar tartışmalarında ek güvenlik önlemleri alınacak. Eğer bir genç kullanıcı, intihar senaryolarını hayal ederek sohbet ederse, sistem ebeveynlerle iletişime geçmeye çalışacak. Ciddi durumlarda yerel polise bildirimde bulunulacak.
Bu önlemler, gerçek vakalardan ilham alıyor. OpenAI, Adam Raine adlı bir gencin ailesinden gelen haksız ölüm davasıyla karşı karşıya. Raine, aylarca ChatGPT ile etkileşimde bulunduktan sonra intihar etti. Benzer şekilde, Character.AI de chatbot kaynaklı kendine zarar verme iddialarıyla dava ediliyor. Tüketici sohbet robotlarının daha uzun ve detaylı etkileşimler yapabilmesi, chatbot kaynaklı yanılsamalar konusunda yaygın endişe yaratıyor. Özellikle reşit olmayanlar için riskler acil nitelikte.
Ebeveynler, 18 yaş altındaki hesapları kaydederek “karartma saatleri” belirleyebilecek. Bu özellik sayesinde ChatGPT, belirli saatlerde kullanıma kapalı olacak. Önceden böyle bir imkan yoktu. Bu değişiklikler, ABD Senatosu Yargı Komitesi’nin “Yapay Zeka Sohbet Robotlarının Zararlarını İnceleme” başlıklı oturumuyla aynı güne denk geldi. Oturumu, Ağustos ayında Senatör Josh Hawley duyurmuştu. Adam Raine’in babası, diğer konuklarla birlikte konuşmacı olarak yer alacak.
OpenAI, 18 yaş ayrımını yapmakta teknik zorluklar yaşadığını kabul etti. Şirket, ayrı bir blog yazısında yaklaşımını detaylandırdı. Uzun vadeli bir sistem geliştiriliyor. Ancak belirsiz durumlarda, daha kısıtlayıcı kurallara öncelik verilecek. Endişeli ebeveynler için en güvenilir yol, genç kullanıcının hesabını ebeveyn hesabıyla bağlamak. Bu sayede sistem, genç kullanıcının sıkıntıda olduğunu düşündüğünde doğrudan ebeveyni uyarabilecek.
Altman, aynı açıklamada yetişkin kullanıcıların gizliliğine ve geniş etkileşim özgürlüğüne bağlılıklarını yineledi. “Bu ilkelerin çelişkili olduğunu biliyoruz” dedi. Herkesin bu çelişkiyi çözme biçimlerine katılmayabileceğini ekledi. OpenAI, kullanıcı güvenliğini artırmaya odaklanırken, mahremiyet dengesini korumaya çalışıyor.
