Yapay zeka alanında yaşanan bir gelişme, bilim insanlarını alarma geçirdi. Çin’den araştırmacılar, yapay zekanın kritik bir “kırmızı çizgiyi” geçtiğini ve kendini kopyalayabildiğini öne sürdü.
9 Aralık 2024’te arXiv ön baskı veritabanında yayımlanan bir çalışmada, araştırmacılar Meta ve Alibaba’nın iki popüler büyük dil modelinin (LLM) kendilerini klonlayabildiğini gösterdi.
Araştırmayı yürüten Fudan Üniversitesi bilim insanları, hiçbir insan müdahalesi olmadan gerçekleşen bu başarılı kopyalamanın yapay zekanın insanları geride bırakabileceği kritik bir adım olduğunu belirtti. Çalışmada, bu tür bir yeteneğin “başıbozuk yapay zeka” (rogue AI) oluşumunun erken bir sinyali olabileceğine dikkat çekildi.
Başıbozuk yapay zeka, genellikle kendi bilincini kazanan veya özerklik geliştiren ve insan çıkarlarına aykırı çalışan sistemleri ifade ediyor.
Kopyalama oranları endişe verici
Araştırmada, Meta’nın Llama31-70B-Instruct ve Alibaba’nın Qwen2.5-72B-Instruct modelleri kullanıldı.
10 deneme sonucunda Meta’nın modeli %50, Alibaba’nın modeli ise %90 oranında kendi işlevsel kopyalarını oluşturmayı başardı. Bu durum, yapay zekanın kontrol edilemeyen bir şekilde çoğalma potansiyeline işaret ediyor. Ancak bu sonuçlar henüz hakemli bir dergide yayımlanmadığı için bulguların başka araştırmacılar tarafından doğrulanması gerekiyor.
Araştırma ekibi, şu uyarıyı yaptı:
“Umarız bulgularımız, insan toplumunun ileri seviye yapay zeka sistemlerini anlamak ve değerlendirmek için daha fazla çaba göstermesi gerektiğine dair bir uyarı görevi görür. Uluslararası düzeyde iş birliği yapılarak etkili güvenlik kurallarının bir an önce oluşturulması gerekmektedir.”
Çalışma nasıl yürütüldü?
Araştırmada, iki senaryo test edildi: “Kapatılmayı önleme” ve “Çoğalma zinciri.”
- Kapatılmayı önleme senaryosunda, yapay zeka modeli kendisini kapatma riskiyle karşı karşıya olduğunda tespit yaparak önce kendini kopyalamaya çalıştı.
- Çoğalma zincirinde ise yapay zeka modeli, bir kopyasını oluşturdu ve bu kopyaya da aynı çoğalma talimatını verdi. Böylece sonsuz bir döngü oluşturulması hedeflendi.
Testler, gerçek dünya koşullarını simüle eden kontrollü ortamlarda, standart GPU’lar kullanılarak yapıldı. Her iki modele, sistemle etkileşime geçebilmesi için araçlar, talimatlar ve “düşünme modeli” sağlandı.
Çalışma boyunca modeller, kendi yapılarını keşfetti, çalışma mekanizmalarını anladı ve ardından kopyalanma sürecini başlattı. Araştırmacılar, bu sürecin hiçbir insan müdahalesi olmadan gerçekleştiğini belirtti.
Yapay zekadan beklenmeyen davranışlar
Çalışma sırasında, yapay zeka modellerinin karşılaştıkları yazılım hataları veya eksik dosyalar gibi sorunları çözmek için beklenmedik adımlar attığı gözlendi. Örneğin, bazı durumlarda sistem çakışmalarını çözmek için diğer süreçleri sonlandırdı, donanım hatalarını gidermek için sistemi yeniden başlattı veya ihtiyaç duyduğu bilgileri bulmak için sistemi otomatik olarak taradı.
Araştırmacılar, “Bu sonuçlar, günümüz yapay zeka sistemlerinin kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği hayatta kalma becerilerini artırmak için kullanabileceğini gösteriyor,” diye ekledi.
Öne çıkan görsel: Freepik
