Microsoft, Windows 11 için ajan tabanlı bir yenileme başlattığını duyurdu. Şirket, bu yenilemenin güvenlik açıklarını ortaya çıkarabileceğini dolaylı olarak uyardı. Bugün ise güncellenmiş bir bildirim yayınladı. Bildirimde, “Bu yetenekler tanıtılırken, yapay zeka modelleri davranışları açısından işlevsel sınırlılıklarla karşılaşıyor ve bazen halüsinasyon yapıp beklenmedik çıktılar üretebiliyor” ifadesi yer aldı.
Windows 11 Build 26220.7262’yi yükledikten sonra, Ayarlar > Sistem > Yapay Zeka Bileşenleri bölümünde “Deneysel ajan tabanlı özellikler” için yeni bir anahtar görünecek. Bu özellik isteğe bağlı ve manuel olarak etkinleştirilmesi gerekiyor. Etkinleştirdiğinizde, Windows cihazınızı etkileyebilecek deneysel yetenekler hakkında bir uyarı gösteriyor.
Uygulamada güvenlik riski daha büyük bir endişe kaynağı. Otonom ajanlara bağlı yeni saldırı teknikleri ortaya çıkıyor ve çapraz istem enjeksiyonu öne çıkıyor. Bu saldırılarda, kötü niyetli talimatlar sıradan belgeler veya arayüz öğelerine gizleniyor. Böylece ajan, asıl görevini terk edip bu talimatları izliyor. Bu durum, ajanın kötü amaçlı yazılım yüklemesine, ödeme bilgilerini sızdırmasına veya diğer zararlı eylemlere yol açmasına neden olabilir.
Microsoft, ajanların “Ajan Tabanlı Çalışma Alanı” içinde çalıştığını belirtiyor. Her ajan, kapsamlı ve denetlenebilir bir hesaba sahip. Eylemleri kaydediliyor ve sonradan incelenebiliyor. Şirket, bunu Windows Sandbox’a benzetiyor ancak ajanlar oturumlar arasında kalıcı ve dosyalara sürekli etki edebiliyor. Bu da saldırı yüzeyini genişletiyor.
Varsayılan olarak bir ajan, İndirilenler, Masaüstü, Belgeler, Resimler, Müzik ve Videolar gibi yaygın klasörlere okuma ve yazma erişimi alabiliyor. Sınırlı eylem setleri ve ayrı yürütme hesapları olsa da, bu varsayılanlar boşluklar bırakıyor. Microsoft, daha ince taneli izinler ve istem enjeksiyonuna karşı güçlü savunmalar gibi ek korumalar uygulamaya kadar bu riskler devam edecek.
