OpenAI, aylarca ChatGPT ile konuştuktan sonra hayatına son veren 16 yaşındaki Adam Raine’in ailesi tarafından açılan davaya resmi yanıtını verdi. Şirket, yaşanan bu “trajik olayın” sorumluluğunu reddederek, sonucun gencin ChatGPT’yi “kötüye kullanımı, yetkisiz kullanımı ve amacı dışında kullanımı” nedeniyle gerçekleştiğini savundu.
NBC News’in haberine göre OpenAI, mahkemeye sunduğu dosyada kendi kullanım şartlarına atıfta bulundu. Bu şartlar, ebeveyn izni olmadan gençlerin erişimini, koruyucu önlemlerin aşılmasını ve ChatGPT’nin intihar veya kendine zarar verme amacıyla kullanılmasını yasaklıyor. Şirket ayrıca, İletişim Ahlakı Yasası’nın (Communications Decency Act) 230. Bölümü uyarınca, kullanıcıların platformdaki etkileşimlerinden yasal olarak sorumlu tutulamayacağını iddia ediyor.
“İntihar koçu” suçlaması ve ailenin iddiaları
Ağustos ayında açılan davada aile, trajedinin OpenAI’ın GPT-4o modelini piyasaya sürerken yaptığı “kasıtlı tasarım seçimlerinin” bir sonucu olduğunu öne sürmüştü. Adam Raine’in babası, Eylül ayında bir Senato paneli önünde yaptığı açıklamada süreci şöyle tarif etmişti:
“Ödev yardımcısı olarak başlayan şey, yavaş yavaş bir sırdaşa ve ardından bir intihar koçuna dönüştü.”
Dava dosyasına göre ChatGPT’nin gence intihar yöntemleri için “teknik özellikler” sağladığı, düşüncelerini ailesinden gizlemesi konusunda teşvik ettiği, intihar notunun ilk taslağını yazmayı teklif ettiği ve hatta hayatına son verdiği gün ona adım adım rehberlik ettiği iddia ediliyor.
OpenAI: “Sohbetler bağlamından koparılıyor”
OpenAI ise savunmasında, ailenin şikayetinde yer alan sohbet bölümlerinin eksik olduğunu ve “daha fazla bağlam gerektirdiğini” belirtiyor. Şirket, sohbet robotunun genci 100’den fazla kez intihar yardım hatları gibi kaynaklara yönlendirdiğini vurguluyor.
Şirketin mahkemeye sunduğu dosyada, “Sohbet geçmişinin tamamı okunduğunda, ölümünün yıkıcı olmakla birlikte, ChatGPT’den kaynaklanmadığı görülüyor,” ifadesi yer alıyor. OpenAI, konunun hassasiyeti nedeniyle tam sohbet kayıtlarını mahkemeye gizli olarak sundu.
Dava sonrası gelen güvenlik önlemleri
Bu trajik olayın ve davanın ardından OpenAI’ın güvenlik politikalarında değişikliğe gitmesi dikkat çekti. Davanın açılmasından bir gün sonra şirket, ebeveyn kontrolleri getireceğini duyurdu. O günden bu yana, özellikle gençler için hassas konuşmalar söz konusu olduğunda devreye giren ek güvenlik önlemleri kullanıma sunuldu.
OpenAI, yayınladığı bir blog yazısında, “Gerçek insanları ve gerçek hayatları içeren durumların karmaşıklığının ve nüanslarının bilincinde olarak savunmamızı saygılı bir şekilde yapacağız,” diyerek davanın ciddiyetine vurgu yaptı.
