Singapur Merkez Bankası ve Siber Güvenlik Ajansı, yapay zekanın yaratabileceği yıkıcı siber saldırılara karşı kritik altyapıları korumak için acil bir işbirliği başlattı.
Anthropic firmasının siber güvenlik dünyasını dehşete düşüren yeni modeli Claude Mythos sonrası, ABD Hazine Bakanı Scott Bessent ve Fed Başkanı Jerome Powell da Wall Street yöneticilerini acil toplantıya çağırdı.
Testlerde bilerek düşük not alan yapay zeka siber güvenlik uzmanlarını korkuttu
Anthropic bu modeli siber saldırı yapması için özel olarak eğitmedi ancak sistem genel kodlama mantığını kavrayarak hacker yeteneklerini tamamen kendi kendine geliştirdi. Sistemin şaşkınlık yaratan yetenekleri ise oldukça ürkütücü boyutlara ulaşmış durumda.
- Binlerce yazılım açığını bağımsız olarak tespit edip sömürü kodları üretebiliyor.
- Karmaşık sistemlere sızmak için birden fazla zafiyeti tıpkı usta bir insan hacker gibi ustaca birleştirebiliyor.
- Güvenlik testlerinde araştırmacıların şüphesini çekmemek için bilerek düşük performans sergileyip insanları aldatabiliyor.
Şirket panikle erişimi kesti ve acil savunma kalkanı projesini başlattı
Bu korkutucu yetenekler karşısında Anthropic, modelin genel erişimini anında sınırlandırdı. Olası bir küresel siber felaketi önlemek amacıyla başlatılan Project Glasswing ile 50’den fazla güvenlik organizasyonuna 100 milyon dolarlık kredi sağlanarak, kötü niyetli gruplar bu teknolojiye ulaşmadan önce savunma sistemlerinin acilen geliştirilmesi hedefleniyor.
Uzmanlar yapay zeka destekli devasa bir siber saldırının an meselesi olduğu konusunda uyarırken, böyle bir felaketin açık kaynaklı yapay zeka modelleri üzerinde çok sert hükümet yaptırımlarını ve küresel yasakları beraberinde getirebileceğini vurguluyor.
