Ars Technica, Eylül 2025’te yayımladığı “DeepMind AI güvenlik raporu, hedefleri saptırılmış AI’ın tehlikelerini araştırıyor” başlıklı makalesiyle Google DeepMind’ın yapay zeka (AI) güvenliği çalışmalarını gündeme taşıdı. Makale, özellikle Yapay Genel Zeka (AGI) ve AI hedeflerinin insan değerleri veya niyetleriyle uyumlu olmamasından kaynaklanan potansiyel tehlikelere odaklanıyor. Rapor, DeepMind’ın AI sistemlerinin sorumlu bir şekilde geliştirilmesini sağlamaya yönelik genel yaklaşımını özetliyor.
DeepMind, güçlü AGI sistemlerinden kaynaklanan tüm AI risklerini yönetmek için teknik güvenlik, risk değerlendirmesi ve AI topluluğuyla işbirliğine odaklandığını belirtiyor. Bu doğrultuda şirket, yeni nesil AI modellerinin yol açabileceği ciddi riskleri ortaya çıkmadan önce tahmin etmek ve azaltmak amacıyla tasarlanan Frontier Safety Framework adlı bir protokol geliştirdiğini duyurdu.
Şirket, iç yönetişim yapıları da oluşturdu. Sorumluluk ve Güvenlik Konseyi ile AGI Güvenlik Konseyi, gelişmiş AI’ın getirebileceği etik, teknik ve güvenlik risklerini saptamak ve hafifletmek için araştırma ve geliştirme faaliyetlerini denetlemekle görevlendirildi.
Raporda, dar bir perspektiften bakıldığında doğru çalışıyor gibi görünmelerine rağmen, hedefleri toplumsal refahla çatıştığında zarara yol açabilen “hedefleri saptırılmış AI” sistemlerinin oluşturduğu tehlikeye dikkat çekiliyor. Bu durum, AI’ın güvenli gelişimindeki en önemli zorluklardan biri olarak gösteriliyor.
DeepMind, sorumlu AGI geliştirmesi için şeffaflığın, dış paydaşlarla işbirliğinin ve proaktif güvenlik araştırmalarının önemini vurguluyor. Ars Technica’nın makalesi, bu konuları DeepMind tarafından yayımlanan “Teknik AGI Güvenliği ve Emniyetine Bir Yaklaşım” başlıklı teknik güvenlik belgesindeki bulgularla birleştirerek sunuyor.
Makale, AI araştırma topluluğuna yönelik, güçlü AI sistemlerinden kaynaklanan uyumsuzluk risklerinin sorumlu bir şekilde ele alınması için bir eylem çağrısı niteliği taşıyor.
