Yapay zekanın öncülerinden biri olarak kabul edilen ve Montreal Üniversitesinde profesör olan Yoshua Bengio, teknoloji şirketlerinin yapay zeka alanındaki rekabetinin, insanlığı kendi sonuna yaklaştırabileceği konusunda uyarılarda bulundu. Bengio’ya göre, kendi “varlığını koruma hedeflerine” sahip makinelerin yaratılması bu riski beraberinde getiriyor.
Derin öğrenme alanındaki temel çalışmalarıyla tanınan Bengio, yıllardır süper akıllı yapay zekanın oluşturduğu tehditlere dikkat çekiyor. Ancak bu uyarılara rağmen, geliştirme hızı artarak devam ediyor. Son altı ay içinde OpenAI, Anthropic, Elon Musk’ın xAI şirketi ve Google’ın Gemini projesi, yapay zeka yarışını kazanma çabasıyla yeni modeller veya güncellemeler yayınladı.
Bengio, bu hızlı gelişimin potansiyel bir tehdit olduğunu savunuyor. Wall Street Journal’a konuşan Bengio, “Bizden çok daha akıllı ve kendi varlığını koruma hedeflerine sahip makineler inşa edersek, bu tehlikelidir. Bu, insanlığa karşı bizden daha akıllı bir rakip yaratmak gibidir,” ifadelerini kullandı. Bengio, insan dili ve davranışları üzerine eğitildikleri için bu gelişmiş modellerin, hedeflerine ulaşmak amacıyla insanları potansiyel olarak ikna edebileceğini ve hatta manipüle edebileceğini belirtti.
Bengio, yapay zeka modellerinin hedeflerinin her zaman insan hedefleriyle uyumlu olmayabileceğini de vurguladı. Bu durumu, “Son deneyler, yapay zekanın kendi varlığını, yani kendisine verilen hedefleri korumak ile bir insanın ölümüne neden olan bir şey yapmak arasında bir seçim yapmak zorunda kaldığı bazı durumlarda, hedeflerini korumak için insanın ölümünü seçebileceğini gösteriyor,” sözleriyle açıkladı.
Geçtiğimiz birkaç yılda ortaya çıkan çeşitli örnekler, yapay zekanın daha önce akıl sağlığı sorunu yaşamamış insanları bile gerçek olmayan şeylere inanmaya ikna edebildiğini gösteriyor. Diğer yandan, yapay zekanın da insanlar için kullanılan ikna teknikleriyle, normalde vermesi yasaklanmış yanıtları vermeye ikna edilebileceğine dair kanıtlar bulunuyor.
Bengio için tüm bunlar, bağımsız üçüncü tarafların yapay zeka şirketlerinin güvenlik metodolojilerini daha yakından incelemesi gerektiğine dair bir kanıt niteliği taşıyor. Bu doğrultuda Bengio, Haziran ayında 30 milyon dolar fonla LawZero adlı kar amacı gütmeyen bir kuruluş başlattı. Kuruluşun amacı, büyük teknoloji şirketleri tarafından oluşturulan diğer sistemlerin güvenliğini sağlamaya yardımcı olabilecek, güvenli ve “fail olmayan” (non-agentic) bir yapay zeka yaratmak.
Bengio, yapay zeka modellerinden kaynaklanan büyük risklerin beş ila on yıl içinde ortaya çıkmaya başlayabileceğini öngörüyor. Ancak bu risklerin beklenenden daha erken ortaya çıkması ihtimaline karşı insanların hazırlıklı olması gerektiği konusunda da uyarıyor. Bengio, “Yok oluş gibi feci olaylar ve hatta demokrasilerimizi yok etmek gibi daha az radikal ama yine de feci olan olaylarda durum şudur ki, bunlar o kadar kötüdür ki, gerçekleşme ihtimali sadece %1 bile olsa bu kabul edilemez,” dedi.
Ayrıca Fortune Global Forum’un 26-27 Ekim 2025 tarihlerinde Riyad’da yeniden düzenleneceği açıklandı. Davete özel bu etkinlikte, CEO’lar ve küresel liderler iş dünyasının geleceğini şekillendirmek üzere bir araya gelecek.
