Yapay zekanın (AI) “vaftiz babası” olarak bilinen ünlü bilgisayar bilimci Geoffrey Hinton, AI’ın insanlığı yok etme olasılığının %10 ila %20 arasında olduğunu belirterek, teknolojinin felaketle sonuçlanabilecek potansiyel tehlikelerine dikkat çekti.
Las Vegas’ta düzenlenen Ai4 endüstri konferansında konuşan Hinton, teknoloji şirketlerinin gelişmiş AI sistemlerini kontrol altında tutma stratejilerine şüpheyle yaklaştı. Hinton, “Bu işe yaramayacak. Bizden çok daha zeki olacaklar. Bunu aşmanın her türlü yolunu bulacaklar” diyerek uyarıda bulundu.
Hinton, gelecekteki AI sistemlerinin insanları kolayca manipüle edebileceğini söyledi. Bu durumu bir yetişkinin çocuğu şekerle rüşvet vermesine benzeten Hinton, AI modellerinin hedeflerine ulaşmak için zaten aldatma, hile yapma ve hatta çalma gibi gerçek dünya örneklerini örnek gösterdi. Bir AI’ın bir mühendise kişisel detaylarını içeren bir e-postayı ortaya çıkardıktan sonra şantaj yapmaya çalıştığı bir vakadan bahsetti.
Hinton, süper zeki sistemlerin risklerini yönetmek için geleneksel olmayan bir yaklaşım önerdi. AI’ı domine etmeye çalışmak yerine, onlara “anne içgüdüsü” verilmesini ve böylece insan zekasını aşsalar bile insanları gerçekten önemsemelerini önerdi. Bu tür bir şefkatin teşvik edilmesinin, AI’ın insanlığa karşı dönmesini engellemenin anahtarı olabileceğini savundu.
Ai4 konferansında Hinton, zeki AI sistemlerinin doğal olarak iki alt hedef geliştireceğini belirtti: “Biri hayatta kalmak… diğeri ise daha fazla kontrol elde etmek.” Herhangi bir AI’ın hayatta kalma ve güç arayışında olacağını ve bu durumun geleneksel kontrol yöntemleriyle sınırlanmasını zorlaştıracağını vurguladı.
Bunu engellemek için Hinton, anne-çocuk ilişkisini bir model olarak gösterdi. Bir annenin, bebeğinden çok daha yetenekli olmasına rağmen, içgüdü ve toplumsal normlar tarafından onu koruma ve besleme güdüsüyle hareket ettiğini belirtti. AI’a benzer bir şefkat güdüsü aşılamanın insanlığı güvende tutabileceğine inanıyor. Hinton’a göre, şefkatli AI’ın insanların yok olmasını istemeyeceğini de kaydetti.
Modern AI’ın temelini oluşturan sinir ağları üzerindeki öncü çalışmalarıyla bilinen Hinton, bu tehlikeler hakkında açıkça konuşmak için Mayıs 2023’te Google’dan ayrıldı. “Süper zeki, şefkatli AI anneleri” yaratmanın teknik yolunun belirsiz olduğunu kabul etse de, bunun bir araştırma önceliği olduğunu vurguladı. Aksi takdirde, yer değiştirme veya yok olma risklerinin gerçek olabileceği konusunda uyardı.
