OpenAI ChatGPT kullanıcılarının ruh sağlığını korumak ve olası kriz anlarında onlara destek olmak amacıyla kritik bir güvenlik adımı attı. Şirket on sekiz yaşından büyük bir arkadaşın veya aile üyesinin hesaba acil durum iletişim kişisi olarak eklenmesine olanak tanıyan özelliğini resmen tanıttı.
Güney Kore bölgesinde yaş sınırının on dokuz olarak uygulandığı bu sistem intiharı önleme alanında uzmanlaşmış klinisyenler ve araştırmacılarla ortaklaşa geliştirildi. Son yıllarda sohbet botlarıyla yapılan konuşmalar sonrası yaşanan trajik olayların artması teknoloji devlerini bu alanda daha somut güvenlik önlemleri almaya itmişti.
Sistem otomatik çalışmıyor ve anında uzman incelemesinden geçiyor
Kullanıcı kendine zarar verme veya intihar eğilimi barındıran ciddi sohbetler gerçekleştirdiğinde sistem anında devreye giriyor. ChatGPT öncelikle kullanıcıyı doğrudan güvendiği kişiyle iletişime geçmeye teşvik ederek ona cesaret verici cümleler kuruyor. Ancak süreç tamamen yapay zekanın inisiyatifine bırakılmıyor.
Şirket bünyesindeki özel eğitimli insanlardan oluşan bir ekip bu riskli konuşmaları vakit kaybetmeden değerlendirmeye alıyor. Ekip üyeleri durumun ciddiyetini doğruladıktan sonra acil durum adımları işlemeye başlıyor.
- Uzman ekip riskin ciddi olduğuna karar verirse yakınına anında elektronik posta veya kısa mesaj gönderiliyor.
- Gizlilik ihlali olmaması için karşı tarafa sohbet kayıtları iletilmiyor sadece genel bir güvenlik uyarısı yapılıyor.
- Sistemin aktifleşmesi için davet edilen kişinin bu isteği bir hafta içinde onaylaması şart koşuluyor.
- OpenAI riskli güvenlik bildirimlerini bir saatten daha kısa bir sürede inceleyip sonuca bağlamayı vadediyor.
