Hackerlar, yapay zeka sohbet botlarını kandırarak Google arama sonuçlarına tehlikeli terminal komutları yerleştirdi. Huntress adlı siber güvenlik firmasının raporunda, bu yöntemle Mac bilgisayarlara yönelik AMOS adlı veri sızdırma zararlı yazılımının yayıldığı belirtildi. Saldırganlar, yaygın arama terimleri etrafında AI asistanlarıyla sohbet ederek komut önerileri aldırdı ve bu sohbetleri Google’da ücretli olarak üst sıralara taşıdı.
Huntress araştırmacıları, saldırının mekanizmasını detaylandırdı. Tehdit aktörleri, öncelikle ChatGPT veya benzeri bir AI asistanıyla yaygın bir arama terimi hakkında sohbet başlattı. Bu sohbet sırasında, AI’ya belirli bir terminal komutunu yapıştırmayı önerecek şekilde yönlendirme yapıldı. Sohbetin halka açık hale getirilmesiyle birlikte, Google’a ücret ödenerek arama sonuçlarının ilk sayfasında üst sıralara yerleştirildi. Bu sayede, kullanıcılar arama yaptıklarında zararlı komut talimatları doğrudan karşılarına çıktı.
Şirketin raporunda, AMOS saldırısının bir Google aramasından kaynaklandığı kaydedildi. Etkilenen cihazın kullanıcısı, “Mac’te disk alanı temizleme” sorgusunu yaptı. Sponsorlu bir ChatGPT bağlantısına tıklayarak, AI’nin önerdiği komutu terminale yapıştırdı. Bu işlem, saldırganlara cihaz erişimi sağlayarak AMOS zararlı yazılımının yüklenmesine yol açtı. Huntress, olayın doğruluğunu teyit etmek amacıyla hem ChatGPT hem de Grok üzerinde testler gerçekleştirdi. Her iki sohbet botunun da saldırı vektörünü başarıyla yeniden ürettiği gözlendi.
Rapor, bu yöntemin geleneksel güvenlik uyarılarını atlattığını vurguladı. Kullanıcıların dosya indirmesi, şüpheli yürütülebilir dosya kurması veya güvenilmez bağlantılara tıklaması gerekmedi. Yalnızca Google ve AI asistanına duyulan güvene dayanıyordu. Zira bu platformlar, yıllardır yaygın kullanımda olduğundan kullanıcılar tarafından güvenilir kabul ediliyordu. Huntress’in blog yazısı yayınlandıktan sonra, ilgili ChatGPT sohbet bağlantısı Google’dan kaldırıldı. Ancak, kaldırma işlemi en az yarım gün gecikmeyle gerçekleşti.
Olay, yapay zeka platformlarına yönelik artan incelemeler döneminde yaşandı. Grok’un Elon Musk bağlantıları nedeniyle eleştirildiği, OpenAI’nin ise rakiplerinin gerisinde kaldığı ifade edildi. Huntress araştırmacıları, saldırının diğer sohbet botlarında da uygulanabilir olup olmadığının belirsiz olduğunu aktardı. Kullanıcılara, bilinmeyen komutları terminal veya tarayıcı adres çubuğuna yapıştırmadan önce doğrulama yapmaları önerildi. Şirket, siber güvenlik önlemlerinin bu tür AI tabanlı tehditleri de kapsayacak şekilde genişletilmesi gerektiğini kaydetti.
Huntress’in bulguları, AI teknolojilerinin siber suçlarda giderek daha fazla kullanıldığını ortaya koydu. Saldırganlar, AI’nin doğal dil işleme yeteneklerini manipüle ederek, kullanıcıların fark etmeden zararlı eylemlere yönlendirilmesini sağladı. Bu yaklaşım, geleneksel phishing yöntemlerinden farklı olarak, doğrudan komut yürütülmesine odaklandı. Araştırmacılar, Google’ın arama sonuçlarını daha sıkı denetlemesi çağrısında bulundu. Benzer vakaların önlenmesi için, AI geliştiricilerinin prompt manipülasyonlarına karşı koruma mekanizmaları geliştirmesi gerektiği belirtildi.
Raporun yayınlanmasıyla birlikte, siber güvenlik topluluğunda tartışmalar yoğunlaştı. Uzmanlar, kullanıcı eğitiminin bu tür tehditlere karşı en etkili savunma olduğunu ifade etti. AI tabanlı arama sonuçlarının doğruluğunun sorgulanması, teknoloji devlerinin sorumluluklarını yeniden gündeme getirdi. Huntress, gelecekteki raporlarında benzer AI istismarlarını izlemeye devam edeceğini duyurdu.