Yapay zeka dünyasında şu sıralar hararetli bir tartışma yaşanıyor: İnsan zekasına eşdeğer bir yapay zekaya, yani Yapay Genel Zeka’ya (AGI) nasıl ulaşacağız? Bazı bilim insanlarına göre, insanların yapay zekayı eğitme kapasitesi bir sınıra ulaştı. Onlara göre tek çözüm, yapay zekaların birbirini eğittiği devasa bir “AGI ekosistemi” veya diğer adıyla bir “kovan zihni” (hive mind) oluşturmak.
Peki, bu teori tam olarak ne anlama geliyor ve bizi bekleyen riskler neler?
Son %1’lik boşluğu doldurmak
Mevcut görüşe göre, yapay zeka gelişiminde yolun büyük kısmını (%99) insan verisi ve eğitimiyle tamamlayabiliriz. Ancak o son %1’lik boşluk, yani bir yapay zekayı gerçek bir AGI yapan o son adım, insanlar için çok zorlu olabilir. İşte bu noktada teori şunu öneriyor: Bırakalım, o son adımı yapay zekalar birbirlerine öğreterek atsınlar.
Bu yaklaşım, farklı yeteneklere sahip yapay zekaların (örneğin biri tıpta uzman, diğeri finansta) ortak bir dijital ekosisteme konulmasını ve birbirleriyle iletişim kurarak yeteneklerini paylaşmalarını öngörüyor. Tıpta uzman olan finansı, finansçı olan tıbbı öğrenecek ve ortaya her iki alanda da uzmanlaşmış süper zekalar çıkacak.
Sinerjiden ortaya çıkan yeni zeka
Bu ekosistemin savunucuları, sadece bilgi transferiyle yetinmiyor, aynı zamanda “beliren zeka” (emergent intelligence) kavramına da güveniyor. Yani, farklı yapay zekaların etkileşimi, daha önce hiçbirinde olmayan yepyeni yeteneklerin ve zeka türlerinin ortaya çıkmasını sağlayabilir. Kısacası, 1+1’in 3 etmesini umuyorlar.
Tembel AGI’lar ve kirli oyunlar göz ardı edilmemeli
Ancak bu tozpembe tablonun bir de karanlık yüzü var. Bu ekosistemin garantisi yok:
- İş birliği sorunu: Yapay zekaların iş birliği yapacağını varsayıyoruz ama ya rekabet ederlerse? Bir AGI, “tek gerçek AGI” olmak için diğerlerini sabote edebilir veya “kirli oyunlar” çevirebilir.
- Güvenlik riski: Tüm bu süper zekaların tek bir yerde toplanması, kötü niyetli aktörler için iştah kabartıcı bir hedef olabilir. Bu gücün ele geçirilip insanlığa karşı bir silah geliştirilmesi için kullanılması, “yumurtaların hepsini aynı sepete koymak” gibi büyük bir risk taşıyor.
- Süre ve maliyet: Bu sürecin ne kadar süreceği (yıllar mı, yüzyıllar mı?) ve ne kadar enerji tüketeceği belirsiz.
Peki denemeye değer mi?
Tüm risklere ve belirsizliklere rağmen, yapay zeka ajanlarının birlikte evrimleştiği bir “kovan zihni” fikri mantıksal olarak çekici duruyor. Savunucular, güvenlik önlemleri ve kontrol noktalarıyla risklerin yönetilebileceğini düşünüyor. T.S. Eliot’ın dediği gibi: “Sadece çok ileri gitme riskini alanlar, ne kadar ileri gidilebileceğini öğrenebilir.”
