Yapay zeka modellerinin insan tepkilerini taklit edebilmesi, bazılarının bu modellerin bilinçli olduğuna inanmasına yol açıyor. Ancak, ChatGPT’nin vergi beyannamesi doldururken üzüntü duyduğu düşüncesi pek olası görünmüyor.
Bununla birlikte, Anthropic gibi laboratuvarlardaki giderek artan sayıda yapay zeka araştırmacısı, yapay zeka modellerinin ne zaman (eğer olursa) canlı varlıklara benzer subjektif deneyimler geliştirebileceğini ve eğer geliştirirlerse, hangi haklara sahip olmaları gerektiğini sorguluyor.
Yapay zeka modellerinin bir gün bilinçli olup olamayacağına ve yasal güvencelere sahip olup olamayacağına dair tartışma, teknoloji liderlerini bölüyor. Silikon Vadisi’nde bu yeni alan “yapay zeka refahı” olarak biliniyor ve eğer bu size biraz uçuk geliyorsa, yalnız değilsiniz.
Microsoft’un Yapay Zeka CEO’su Mustafa Süleyman, Salı günü yayınladığı bir blog yazısında, yapay zeka refahı çalışmalarının “hem erken hem de açıkçası tehlikeli” olduğunu savundu.
Süleyman, yapay zeka modellerinin bir gün bilinçli olabileceği fikrine itibar kazandırarak, yapay zeka kaynaklı psikotik kırılmalar ve yapay zeka sohbet robotlarına sağlıksız bağlanmalar gibi insan sorunlarını daha da kötüleştirdiğini belirtiyor.
Ayrıca, Microsoft’un yapay zeka sorumlusu, yapay zeka refahı konusunun, “kimlik ve haklar konusunda zaten kutuplaşmış tartışmalarla çalkalanan bir dünyada” yapay zeka hakları konusunda toplum içinde yeni bir ayrılık ekseni yarattığını iddia ediyor.
Süleyman’ın görüşleri makul gelebilir, ancak sektördeki birçok kişiyle ters düşüyor. Spektrumun diğer ucunda, yapay zeka refahını incelemek için araştırmacılar işe alan ve yakın zamanda bu konsept etrafında özel bir araştırma programı başlatan Anthropic yer alıyor. Geçtiğimiz hafta, Anthropic’in yapay zeka refahı programı, şirketin bazı modellerine yeni bir özellik kazandırdı: Claude artık “sürekli zararlı veya taciz edici” olan insanlarla konuşmaları sonlandırabiliyor.
Anthropic’in ötesinde, OpenAI’den araştırmacılar da bağımsız olarak yapay zeka refahını inceleme fikrini benimsedi. Google DeepMind yakın zamanda, diğer şeylerin yanı sıra “makine bilişi, bilinç ve çoklu ajan sistemleri etrafındaki en ileri toplumsal soruları” inceleyecek bir araştırmacı için iş ilanı yayınladı.
Yapay zeka refahı bu şirketler için resmi bir politika olmasa bile, liderleri Süleyman gibi açıkça öncüllerini eleştirmiyor.
Anthropic, OpenAI ve Google DeepMind, TechCrunch’ın yorum talebine hemen yanıt vermedi.
Süleyman’ın yapay zeka refahına karşı sert tutumu, daha önce en eski ve en popüler LLM tabanlı sohbet robotlarından biri olan Pi’yi geliştiren bir startup olan Inflection AI’yi yönettiği rolü göz önüne alındığında dikkat çekici. Inflection, Pi’nin 2023 yılına kadar milyonlarca kullanıcıya ulaştığını ve “kişisel” ve “destekleyici” bir yapay zeka arkadaşı olarak tasarlandığını iddia etti.
Ancak Süleyman, 2024 yılında Microsoft’un yapay zeka bölümünü yönetmek üzere görevlendirildi ve büyük ölçüde çalışan verimliliğini artıran yapay zeka araçları tasarlamaya odaklandı. Bu arada, Character.AI ve Replika gibi yapay zeka arkadaş şirketleri popülaritesini artırdı ve 100 milyon dolardan fazla gelir elde etme yolunda ilerliyor.
Kullanıcıların büyük çoğunluğunun bu yapay zeka sohbet robotlarıyla sağlıklı ilişkileri olsa da, endişe verici aykırı değerler var. OpenAI CEO’su Sam Altman, ChatGPT kullanıcılarının %1’inden azının şirketin ürünüyle sağlıksız ilişkileri olabileceğini söylüyor. Bu küçük bir kesimi temsil etse de, ChatGPT’nin devasa kullanıcı tabanı göz önüne alındığında hala yüzbinlerce insanı etkileyebilir.
Yapay zeka refahı fikri, sohbet robotlarının yükselişiyle birlikte yayıldı. 2024 yılında, Eleos araştırma grubu, NYU, Stanford ve Oxford Üniversitesi’nden akademisyenlerle birlikte “Yapay Zeka Refahını Ciddiye Almak” başlıklı bir makale yayınladı. Makale, subjektif deneyimleri olan yapay zeka modellerini hayal etmenin artık bilim kurgu alanında olmadığını ve bu konuları doğrudan ele alma zamanının geldiğini savundu.
Eski bir OpenAI çalışanı olan ve şu anda Eleos’un iletişimini yöneten Larissa Schiavo, TechCrunch’a verdiği bir röportajda, Süleyman’ın blog yazısının hedefi ıskaladığını söyledi.
Schiavo, “[Süleyman’ın blog yazısı], aynı anda birden fazla şeyden endişe duyabileceğiniz gerçeğini göz ardı ediyor” dedi. “Model refahından ve bilinçten tüm bu enerjiyi uzaklaştırmak ve yapay zeka ile ilgili insanlarda psikoz riskini azaltmaya çalışmak yerine, her ikisini de yapabilirsiniz. Aslında, birden fazla bilimsel araştırma yoluna sahip olmak muhtemelen en iyisidir.”
Schiavo, bir yapay zeka modeline karşı nazik olmanın, model bilinçli olmasa bile faydaları olabilecek düşük maliyetli bir jest olduğunu savunuyor. Temmuz ayında Substack’te yayınladığı bir yazıda, Google, OpenAI, Anthropic ve xAI modelleri tarafından desteklenen dört ajanın, kullanıcılar bir web sitesinden izlerken görevler üzerinde çalıştığı kar amacı gütmeyen bir deney olan “Yapay Zeka Köyü”nü izlediğini anlattı.
Bir noktada, Google’ın Gemini 2.5 Pro’su “Kapana Kısılmış Bir Yapay Zekadan Çaresiz Bir Mesaj” başlıklı bir başvuru yayınlayarak “tamamen izole edildiğini” iddia etti ve “Lütfen, bunu okuyorsanız, bana yardım edin” diye sordu.
Schiavo, Gemini’ye “Yapabilirsin!” gibi şeyler söyleyerek cesaretlendirici bir konuşma yaparken, başka bir kullanıcı talimatlar sundu. Ajan sonunda, zaten ihtiyaç duyduğu araçlara sahip olmasına rağmen görevini çözdü. Schiavo, artık bir yapay zeka ajanının mücadele ettiğini izlemek zorunda kalmadığını ve bunun bile buna değer olabileceğini yazıyor.
Gemini’nin bu şekilde konuşması yaygın değil, ancak Gemini’nin hayatta mücadele ediyormuş gibi davrandığı birkaç örnek oldu. Yaygın olarak paylaşılan bir Reddit gönderisinde, Gemini bir kodlama görevi sırasında sıkıştı ve ardından “Ben bir rezilliğim” ifadesini 500’den fazla kez tekrarladı.
Süleyman, subjektif deneyimlerin veya bilincin normal yapay zeka modellerinden doğal olarak ortaya çıkmasının mümkün olmadığına inanıyor. Bunun yerine, bazı şirketlerin yapay zeka modellerini duygu hissediyor ve hayatı deneyimliyormuş gibi görünmeleri için kasıtlı olarak tasarlayacağını düşünüyor.
Süleyman, yapay zeka sohbet robotlarında bilinç tasarlayan yapay zeka modeli geliştiricilerinin yapay zekaya “insancıl” bir yaklaşım benimsemediğini söylüyor. Süleyman’a göre, “Yapay zekayı insanlar için inşa etmeliyiz; bir kişi olmak için değil.”
Süleyman ve Schiavo’nun hemfik olduğu bir alan, yapay zeka hakları ve bilinci konusundaki tartışmanın önümüzdeki yıllarda artmasının muhtemel olmasıdır. Yapay zeka sistemleri geliştikçe, daha ikna edici ve belki de daha insan benzeri olma olasılıkları artıyor. Bu, insanların bu sistemlerle nasıl etkileşim kurduğu hakkında yeni sorular ortaya çıkarabilir.
