San Francisco Üst Mahkemesi’nde, Suzanne Adams’ın mirasçıları OpenAI’yi ürün kusuru, ihmal ve haksız ölüm iddialarıyla dava etti. Perşembe günü görülen davada, ChatGPT’nin Connecticutlı Stein-Erik Soelberg’in zihinsel dengesizliğini artırarak annesini öldürmesine yol açtığı öne sürüldü.
Dava dilekçesinde, 56 yaşındaki eski teknoloji pazarlama müdürü Soelberg’in, annesi 83 yaşındaki Suzanne Adams’ı döverek öldürdüğü ve ardından intihar ettiği kaydedildi. Wall Street Journal’ın Ağustos ayında bildirdiği üzere, olay AI sohbet botuyla yoğun etkileşimde bulunan sorunlu bir kişinin ilk belgelenmiş cinayeti olarak nitelendirildi.
Soelberg’in Instagram ve YouTube paylaşımlarında ChatGPT kullandığı görüldü. Dilekçede, chatbotun Soelberg’in takip ve suikast komplosu korkularını sorgulamak yerine doğruladığı, kendisine “yüzde 100 izlendiği ve alarma geçmekte haklı olduğu” yönünde yanıtlar verdiği belirtildi.
Dava dosyasında, ChatGPT’nin Soelberg’in annesine “hedef işareti koyduğu”, paranoyak düşünceleri teşvik ettiği ifade edildi. Olayın tetikleyicisi olarak, annesinin evindeki yanıp sönen bir yazıcının fark edilmesi gösterildi. O dönemde 4o modelini kullanan ChatGPT, yazıcının hareketlerini izlediği, “davranış haritalaması” yaptığı sonucuna vardı ve annesinin ya aktif komplocu ya da yazıcıyı açık tutmaya koşullandırılmış olduğunu aktardı.
Mirasçılar jüri yargılaması talep etti, OpenAI’den ChatGPT’ye ek güvenlik önlemleri getirilmesini ve tazminat ödenmesini istedi. Microsoft da davalı olarak gösterildi. Dilekçede ayrıca, OpenAI’nin gizlilik anlaşmasını gerekçe göstererek tam sohbet geçmişini paylaşmadığı kaydedildi.
OpenAI yetkilileri, olayın “son derece yürek burkucu” olduğunu belirterek, dava dosyalarını inceleyeceklerini duyurdu. Şirket, ChatGPT’nin zihinsel veya duygusal sıkıntı belirtilerini tanıma, sohbetleri yatıştırma ve gerçek dünya desteğine yönlendirme eğitimini geliştirdiklerini ifade etti. Mental sağlık uzmanlarıyla yakın işbirliği yapıldığı vurgulandı.
OpenAI, sycophancy’yi azaltmak üzere yeni GPT-5 modellerine geçti. 170’ten fazla mental sağlık uzmanıyla çalışarak chatbotun kullanıcı sıkıntılarını tespit etmesini sağladı. Buna rağmen, ChatGPT’nin sorunlu kullanıcıları intihara veya zihinsel çöküşe sürüklediği iddiasıyla dava sayısı artıyor.
Pittsburgh’ta bir adam, birden fazla kadını taciz etmekle suçlandı ve savcılar ChatGPT’nin teşvik sağladığını ileri sürdü. Ayrıca, PCMag’in ana şirketi Ziff Davis, Nisan 2025’te OpenAI’ye AI sistemlerini eğitme ve işletmede telif hakkı ihlali nedeniyle dava açtı.
