Dijital teknolojiler, kaybettiğimiz sevdiklerimizi sanal ortamda “hayata döndürme” potansiyeline sahipken, bu teknolojilerin etik ve psikolojik sonuçları üzerine ciddi tartışmalar başlamış bulunmakta.
Yapay zeka konusunda etik düşünen kişiler, özellikle “ölübotlar” olarak adlandırılan ve ölen kişilerin dijital rekreasyonlarının yarattığı potansiyel tehlikeler konusunda uyarıyor.
Cambridge Üniversitesi’nden araştırmacılar, bu tür hizmetlerin teknik olarak mümkün ve yasal olarak izinli olmasına rağmen, derhal düzenlenmesi gerektiğini savunuyor.
Sanal olarak hayata geri dönmek
Uzmanlar, “ölübotlar” olarak adlandırılan bu dijital varlıkların, yaratıcıları ve kullanıcıları üzerinde psikolojik zarar yaratabileceğini ve hatta onları dijital olarak “perili/hayaletli” kılabileceğini belirtiyor.
Cambridge Üniversitesi’nden araştırmacılar, teknik olarak mümkün ve yasal olarak izin verilebilecek bu hizmetlerin, kullanıcıların ölen akrabalarıyla yaptıkları konuşmaları yüklemelerine ve bir sohbet botu şeklinde onları yeniden hayata döndürmelerine olanak sağlayabileceğini ifade ediyor. Bu tür hizmetler, terminal hastalığı (tedavisi mümkün olmayan) olan ebeveynlere, çocukları için geride bir şey bırakmaları amacıyla ya da sağlıklı bireylere hayatlarını kataloglayıp etkileşimli bir miras yaratma fırsatı sunmak amacıyla pazarlanabilir.
Ancak araştırmacılar, bu tür hizmetlerin etik olmayan şirketler ve düşüncesiz iş uygulamaları tarafından istismar edilerek, kalıcı psikolojik hasara yol açabileceğini ve ölen kişinin haklarına temel bir saygısızlık teşkil edebileceğini vurguluyor. Ayrıca vefat eden kişi ile yapay zekaya dönüşen halinin de ne kadar etik olduğu tartışmalar arasında.
Cambridge Üniversitesi’nin Leverhulme Gelecekteki Zekâ Merkezi’nden Dr. Katarzyna Nowaczyk-Basińska, “Generatif yapay zekâdaki hızlı ilerlemeler, internet erişimi ve temel bilgiye sahip hemen hemen herkesin ölen bir yakınını yeniden canlandırabilmesine olanak tanıyor.” diyor. Ayrıca sözlerine “Bu yapay zekâ alanı etik bir mayın tarlası. Ölen kişinin onurunu korumak önemli ve dijital ölüm sonrası hizmetlerin finansal amaçlarının buna zarar vermemesi gerekiyor.” şeklinde devam ediyor.
Araştırmacılar, bu teknolojinin risklerinden birinin, dijital miras hizmetlerini reklam yoluyla paraya çeviren şirketler olduğunu belirtiyor. Öyle ki kullanıcılar yeniden yaratılmış dijital yakınlarının birden bire yemek siparişi vermelerini önermesiyle, verilerinin bu şekilde kullanılacağına dair rızalarının alınmadığını fark edebilir. Kısaca şirketler ölen yakınınızı bir Siri’ye dönüştürdüklerinde hisseleriniz nasıl olacak.
Özellikle çocuklar için çok daha kötü sonuçlar ortaya çıkabilir. Anne veya baba kaybıyla mücadele etmelerine yardımcı olmak isteyen ebeveynler, yakında çocuklarına ölübotları sunabilir. Ancak bu tür bir yaklaşımın psikolojik olarak faydalı olduğuna dair çok az kanıt bulunurken, bu tür hizmetlerin normal yas sürecini sekteye uğratarak önemli zararlar verebileceğine dair çok sayıda kanıt var.
Araştırmacılar, ölülerin onurunu ve yaşayanların psikolojik sağlığını korumak için bir dizi iyi uygulama öneriyor ve bunların bazılarını uygulamak için düzenlemelere ihtiyaç olabileceğini belirtiyor. Öneriler arasında, ölübotların hassas bir şekilde “emekli edilmesi” için prosedürler belirlenmesi, interaktif özelliklerin yalnızca yetişkinlerle sınırlanması ve hizmetlerin işleyişi ile herhangi bir yapay sistemin sınırlamalarının açıkça belirtilmesi yer alıyor.
Yapay zekanın ilerleyişi ölümün önüne geçebilir mi?
Ölü bir sevdiğini ChatGPT benzeri bir yapay zekâ sistemi ile yeniden yaratma fikri bilim kurgu değil. 2021 yılında Joshua Barbeau, GPT-3’ü kullanarak ölen kız arkadaşının sesinde konuşan bir sohbet botu oluşturduğunda manşetlere çıktı. Altı yıl önce ise geliştirici Eugenia Kuyda, yakın bir arkadaşının kısa mesajlarını bir sohbet botuna dönüştürdü ve bu da nihayetinde popüler yapay zekâ arkadaş uygulaması Replika’nın doğmasına yol açtı.
Konu hakkında ödüllü filmler bile yapıldı; aralarında “Her” ve “Blade Runner” serisi ölümün ve yapay zeka arkadaşlığının gelecek teknolojilerde bize neler ve nasıl etkiler getireceğini çok güzel örneklendiriyor.
Teknoloji, sohbet botlarının ötesine geçiyor. 2021’de soybilim sitesi MyHeritage, kullanıcıların atalarının sabit fotoğraflarından animasyonlu videolar oluşturan Deep Nostalgia adlı bir özelliği tanıttı. Özellik viral olduktan sonra şirket, bazı kullanıcıların bunu “ürkütücü” bulduğunu kabul etti. “Sonuçlar tartışmalı olabilir ve bu teknolojiye kayıtsız kalmak zor” diyen MyHeritage, “Bu özellik, sevilen ataları hayata döndürmek için nostaljik kullanım amaçlı tasarlandı. Derin sahte videoların yaratılmasını önlemek için sürücü videolarımızda konuşma bulunmuyor” açıklamasını yaptı.
Microsoft ve ABD iş birliği çerçevesinde yeni endişeler
Bir yıl sonra MyHeritage, kullanıcıların konuşan videolar oluşturmasına olanak tanıyan DeepStory’yi tanıttı. Teknolojinin hızlı gelişimi, ölübotların ve dijital ölülerin gelecekte daha da yaygınlaşacağını gösteriyor. Ancak etik şüpheler ve psikolojik riskler, bu alandaki düzenlemelerin aciliyetini gözler önüne seriyor.
Öne çıkan görsel kaynak: Edu Lauton / Unsplash
