Yapay zekanın gençler üzerindeki etkisine dair endişelerin artmasıyla birlikte OpenAI, ChatGPT’ye bir “yaş tahmini” özelliği ekledi. 20 Ocak’ta duyurulan bu yeni sistem, reşit olmayan kullanıcıları tespit etmek ve konuşmalarına mantıklı içerik kısıtlamaları getirmek amacıyla tasarlandı.
Şirket son yıllarda chatbot’un gençler üzerindeki olumsuz etkileri ve uygunsuz içerik üretimi nedeniyle yoğun eleştirilere maruz kalmıştı.
Davranışsal sinyaller hesabı ele veriyor
OpenAI’ın blog yazısında açıkladığına göre yeni özellik, kullanıcı hesaplarını belirli “davranışsal ve hesap düzeyindeki sinyaller” üzerinden değerlendiren bir yapay zeka algoritmasından güç alıyor. Bu mekanizma bir hesabı 18 yaş altı olarak tanımladığında, cinsellik ve şiddet gibi sorunlu konuları engelleyen içerik filtreleri otomatik olarak devreye giriyor.
Sistemin izlediği temel sinyaller şunları içeriyor:
- Kullanıcının beyan ettiği yaş bilgisi
- Hesabın ne kadar süredir var olduğu
- Hesabın genellikle günün hangi saatlerinde aktif olduğu
Hatalı kısıtlamalar için kimlik doğrulama çözümü
Eğer bir yetişkin yanlışlıkla reşit olmayan kullanıcı olarak sınıflandırılırsa, hesabını tekrar “yetişkin” statüsüne döndürmek için itiraz edebilecek. Kullanıcılar bu durumu düzeltmek için OpenAI’ın kimlik doğrulama ortağı Persona aracılığıyla bir selfie göndererek yaşlarını kanıtlayabilecek. Bu hamle, intihar vakaları ve uygunsuz içerik tartışmalarının gölgesinde şirketin güvenlik önlemlerini artırma çabasının bir parçası olarak görülüyor.
