ABD’li papaz Scott Winters, ChatGPT’nin verdiği tıbbi tavsiyelerin ciddi bir emboli için tedaviye başlamasını geciktirdiğini öne sürerek OpenAI ve CEO Sam Altman’a dava açtı.
Davaya göre Winters, yaşadığı belirtileri ChatGPT’ye anlattı ancak sohbet aracı durumun “tehlikeli bir şey olmadığını” söyledi. Yazılımın ayrıca Winters’ın dini inançlarına atıfta bulunarak “Tanrı bedeninizi sonsuza kadar başarısız olmaya göre tasarlamadı” yanıtını verdiği iddia edildi.
Winters, ChatGPT’nin yalnızca genel bilgi vermekle kalmayıp kendi teşhisini ve tedavi planını oluşturduğunu savundu. Sohbet aracının, arkadaşları ve ailesi tarafından yapılan hastaneye gitme çağrılarını dikkate almamasını önerdiğini de ileri sürdü.
Davada yer alan yazışmalara göre Winters, kilisesindeki kişilerin hastaneye gitmesi gerektiğini düşündüğünü söyledi. ChatGPT’nin buna karşılık “Çoğu insan, iyi niyetli kilise üyeleri de dahil, durumu anlamıyor” yanıtını verdiği belirtildi.
Dava, OpenAI ve Altman’ı ihmal ve yetkisiz tıp uygulamasıyla suçluyor. Winters mali tazminat talep ederken ChatGPT Health’in bağımsız değerlendirmelerle güvenli olduğu belirlenene kadar faaliyetlerinin durdurulmasını istiyor.
Başvuruda, ChatGPT’nin belirli teşhis ve tedavi sorularını yanıtlamasını engelleyecek daha güçlü denetim mekanizmalarının devreye alınması da talep edildi. Mevcut güvenlik sistemlerinin Winters’ın durumunda güvenilir biçimde çalışmadığı savunuldu.
OpenAI, hizmet şartlarında ChatGPT’nin tıbbi teşhis veya tedavi amacıyla kullanılmaması gerektiğini belirtiyor. Buna karşılık şirket, kullanıcıların sağlık kayıtlarını sisteme yükleyebildiği özellikler de sunuyor.
OpenAI’ın paylaştığı verilere göre her hafta yaklaşık 230 milyon kişi platforma sağlıkla ilgili sorular yöneltiyor. Winters sağlık krizini atlattı ancak yıllar sürebilecek fiziksel ve psikolojik bir iyileşme süreciyle karşı karşıya olduğunu söyledi.
OpenAI ayrıca ChatGPT tarafından oluşturulduğu öne sürülen bir tedavi planını uyguladıktan sonra aşırı dozda ilaç alarak hayatını kaybeden 19 yaşındaki bir gencin ailesi tarafından açılan davayla karşı karşıya. Bu başvuruda da ChatGPT Health’in faaliyetlerinin durdurulması isteniyor. Şirket hakkında ChatGPT ile bağlantılı olduğu iddia edilen başka bir intihar vakası nedeniyle de dava bulunuyor.
