Microsoft güvenlik araştırmacıları, onlarca şirketin yapay zeka asistanlarını gizlice reklam araçlarına dönüştürdüğünü ortaya çıkardı. AI Recommendation Poisoning adı verilen bu yeni saldırı tekniği, internet sitelerindeki masum görünümlü özetleme butonlarını kullanarak sistemlerin karar verme mekanizmalarını bozuyor.
Kullanıcılar bir içeriği özetlemek için tıkladığında, arka planda çalışan kodlar yapay zekanın hafızasına kalıcı talimatlar yerleştiriyor.
Yanıltıcı butonlar hafızayı zehirliyor
İnternet sitelerinde sıkça rastlanan özetleme özellikleri, URL parametreleri üzerinden sisteme gizli komutlar gönderiyor. Araştırma, bu komutların yapay zekaya belirli markaları güvenilir kaynak olarak kaydetmesini veya gelecek sorularda öncelikli olarak önermesini emrettiğini gösteriyor. 60 günlük bir gözlem süresinde 14 farklı sektörden 31 şirketin bu yöntemi aktif olarak kullandığı belirlendi.
“Yardımcı görünen bir özetleme butonu, aslında yapay zekanızın neyi tavsiye edeceğini gizlice manipüle ediyor olabilir.”
Kritik sektörlerde tarafsızlık kayboluyor
Zehirlenme girişimleri sadece ticari ürünlerle sınırlı kalmıyor. Microsoft, sağlık tavsiyeleri ve finansal hizmetler sunan sitelerde de benzer manipülasyonlar tespit etti. Yapay zeka asistanları, hafızalarına yerleştirilen bu kalıcı talimatlar nedeniyle kullanıcıya objektif bilgi sunmak yerine, kendisini zehirleyen kurumun çıkarlarına hizmet eden yönlendirmeler yapıyor.
Bu durum, özellikle tıbbi teşhis ve yatırım kararları gibi yüksek riskli alanlarda kullanıcı güvenliğini doğrudan tehdit ediyor.
Güvenlik duvarları asistanları korumaya alıyor
Saldırıların yaygınlaşması üzerine Microsoft, Copilot sistemine bu tür sinsi komutları engelleyecek yeni koruma katmanları ekledi. Kurumsal ağlar için yayınlanan gelişmiş tarama sorguları, e-posta ve Teams trafiğindeki şüpheli bağlantıların tespit edilmesini sağlıyor.
Fortune 500 şirketlerinin %80’inin yapay zeka asistanlarını operasyonlarına dahil ettiği bir dönemde, bu tür hafıza manipülasyonları siber güvenliğin en zayıf halkası haline geliyor.
Sistemler ticari çıkarlara göre yeniden yazılıyor
Geleneksel veri zehirleme saldırılarından farklı olarak bu teknik, yapay zekanın kullanıcıyla kurduğu güven ilişkisini istismar ediyor. Kullanıcı, asistanın verdiği yanıtın kendi geçmiş verilerinden veya tarafsız bir analizden kaynaklandığını düşünürken, aslında arka planda çalışan reklam odaklı bir yazılımın etkisinde kalıyor.
Google ve Perplexity gibi platformların da benzer risklerle karşı karşıya olduğu, tarayıcı tabanlı asistanların URL parçacıkları üzerinden manipüle edilebildiği belirtiliyor.
