Google, Gmail hesaplarını hedef alan yeni bir yapay zeka (AI) tabanlı saldırı hakkında bir uyarı yayınladı. Şirket, bu tehdidin yalnızca Google’a özgü olmadığını belirtirken, istem enjeksiyonu saldırılarına karşı güçlü korumalar geliştirmenin önemini vurguladı.
Doğrudan ve dolaylı istem enjeksiyonu saldırıları, e-postalarda, mesajlarda, web sitelerinde, dosya eklerinde ve takvim davetlerinde yapay zeka asistanları için gizli talimatlar içerir. Bu talimatlar kullanıcılar tarafından görünmez, ancak yapay zeka asistanı tarafından algılanıp uygulanabilir.
Eito Miyamura, X platformunda ChatGPT’nin bir kullanıcının e-posta adresini kullanarak özel e-posta verilerini sızdırdığı bir video yayınladı. Miyamura, “ChatGPT gibi yapay zeka ajanları, sağduyunuzu değil, komutlarınızı izler” uyarısında bulundu. Sadece e-posta adresinizle, tüm özel bilgilerinizi elde etmeyi başardıklarını iddia etti.
Google, bu tür bir saldırı konusunda Haziran ayında zaten uyarıda bulunmuştu ve bu uyarının son saldırıyla da ilgili olduğunu belirtti. Şirket, yapay zeka sistemlerini manipüle etmeyi amaçlayan yeni bir tehdit dalgasının ortaya çıktığını ve bu durumun acil dikkat ve sağlam güvenlik önlemleri gerektirdiğini vurguladı. Bu tehdit, kullanıcı verilerini sızdırmak veya başka kötü niyetli eylemler gerçekleştirmek için yapay zekaya talimat veren e-postaları, belgeleri veya takvim davetlerini hedef alıyor.
Söz konusu saldırı henüz bir konsept kanıtı niteliğinde. Ancak 2025’te görülen yapay zeka hack uyarılarının ardındaki potansiyeli gözler önüne seriyor. Bu özel hack, kurbanın kabul etmesine gerek olmayan kötü amaçlı bir takvim davetiyle başlıyor.
Kullanıcı ChatGPT’den takvimini inceleyerek güne hazırlanmasına yardımcı olmasını istediğinde, yapay zeka asistanı saldırgan tarafından ele geçiriliyor. Saldırganın komutlarına göre hareket ederek kullanıcının özel e-postalarını arıyor ve verileri saldırganın e-posta adresine gönderiyor.
Google, kullanıcıların öncelikle Google Takvim’de “bilinen göndericiler” ayarının etkinleştirildiğinden emin olmalarını öneriyor. Şirket, bu yaklaşımın kullanıcıların kötü amaçlı veya istenmeyen etkinliklerin takvimlerinde görünmesini engellemede özellikle etkili olduğunu belirtiyor. Söz konusu takvim daveti, kullanıcı daha önce kötü niyetli kişiyle etkileşimde bulunmadığı veya varsayılan ayarları değiştirmediği sürece otomatik olarak takvimde görünmeyecekti.
Google, Gemini 2.5 modellerinde düşmanca verilerle yapılan model eğitiminin, dolaylı istem enjeksiyonu saldırılarına karşı savunmaları önemli ölçüde güçlendirdiğini belirtiyor. Ancak bu özel saldırı Gemini’yi kullanmıyor.
Google, istem enjeksiyonu saldırıları için bir filtre geliştirmenin gerekliliğini vurguluyor. Şirket, e-postalar ve dosyalar gibi çeşitli formatlardaki kötü amaçlı istemleri ve talimatları tespit edebilen özel makine öğrenimi modelleri kullanıma sunduğunu belirtiyor.
Şirket, kötü amaçlı talimatlar içeren bir e-posta örneğini veriyor. İçerik sınıflandırıcılarının, kötü amaçlı talimatları tespit edip dikkate almadığını ve kullanıcı için güvenli bir yanıt oluşturduğunu belirtiyor. Bu, Gmail’deki spam, kimlik avı girişimleri ve kötü amaçlı yazılımların %99,9’undan fazlasını otomatik olarak engelleyen yerleşik savunmalara ek olarak sunuluyor.
Miyamura, yapay zekanın çok akıllı olabileceğini, ancak verilerinizi sızdırmak için inanılmaz derecede aptalca yollarla kandırılıp kimlik avına maruz bırakılabileceği konusunda uyarıyor.
