Google’ın yapay zeka destekli hata bulucu aracı Big Sleep, çeşitli popüler açık kaynak yazılımlarında 20 güvenlik açığı tespit etti ve raporladı. Bu gelişme, yapay zeka tabanlı araçların gerçek dünya güvenlik açıklarını bulma potansiyelini gözler önüne seriyor.
Google Güvenlik Başkan Yardımcısı Heather Adkins, Big Sleep’in ilk güvenlik açığı grubunu duyurdu. Google’ın yapay zeka departmanı DeepMind ve elit hacker ekibi Project Zero tarafından geliştirilen Big Sleep, tespit ettiği bu açıkları çoğunlukla FFmpeg ve ImageMagick gibi açık kaynak yazılımlarında buldu.
Güvenlik açıkları henüz düzeltilmediği için, Google ayrıntı vermekten kaçınıyor. Bu durum, hataların düzeltilmesi beklenirken uygulanan standart bir politika olarak belirtildi. Ancak Big Sleep’in bu açıkları bulmuş olması, bu tür yapay zeka araçlarının somut sonuçlar elde etmeye başladığını gösteriyor.
Google sözcüsü Kimberly Samra, TechCrunch’a yaptığı açıklamada, “Yüksek kaliteli ve uygulanabilir raporlar sağlamak için, raporlamadan önce döngüde bir insan uzmanımız var, ancak her güvenlik açığı yapay zeka ajanı tarafından insan müdahalesi olmadan bulundu ve yeniden üretildi” dedi.
Google Mühendislik Başkan Yardımcısı Royal Hansen, X platformunda yaptığı paylaşımda bu bulguların “otomatik güvenlik açığı keşfinde yeni bir sınır” olduğunu belirtti. Big Sleep dışında, RunSybil ve XBOW gibi LLM tabanlı başka güvenlik açığı tespit araçları da bulunuyor.
XBOW, HackerOne platformundaki ABD liderlik tablolarından birinde zirveye ulaşarak dikkat çekmişti. Pek çok durumda olduğu gibi, Big Sleep’te de yapay zeka destekli hata bulucunun meşru bir güvenlik açığı bulduğunu doğrulamak için sürecin bir noktasında insan doğrulaması yapılıyor.
Yapay zeka destekli hata bulucular geliştiren RunSybil startup’ının kurucu ortağı ve CTO’su Vlad Ionescu, TechCrunch’a yaptığı açıklamada Big Sleep’in “meşru” bir proje olduğunu ifade etti. Ionescu, projenin “iyi bir tasarıma sahip olduğunu, arkasındaki insanların ne yaptığını bildiğini, Project Zero’nun hata bulma deneyimine ve DeepMind’ın da gücüne sahip olduğunu” belirtti.
Bu araçların birçok faydası olsa da, önemli dezavantajları da bulunuyor. Bazı yazılım geliştiricileri, aslında “halüsinasyon” olan yapay zeka kaynaklı hata raporlarından şikayetçi oldu. Ionescu daha önce, “İnsanların karşılaştığı sorun, altın gibi görünen, ancak aslında çöp olan çok fazla şey almamız” demişti.
