Kötü niyetli aktörler, X’in yapay zeka asistanı Grok’u kötü amaçlarla kullanmanın bir yolunu buldu. Saldırganlar, platformun reklam sistemini manipule ederek ve Grok’un güvenilir sesini istismar ederek, bu aracı bir kötü amaçlı yazılım dağıtım motoruna dönüştürüyor.
Siber suçlular, X’in yapay zeka asistanı Grok’u büyük bir kötü amaçlı yazılım kampanyasında istemeden suç ortağı haline getirdi. Platformdaki reklam sistemini manipule ederek ve Grok’un güvenilirliğini kullanarak, meşru görünen tanıtım gönderilerine zehirli bağlantılar yerleştiriyorlar. Daha sonra Grok’u kullanarak bu bağlantılara “referans” sağlıyorlar.
Bu yöntem, ücretli reklamların erişimini yapay zeka tarafından oluşturulan yanıtların güvenilirliğiyle birleştirerek, kötü amaçlı yazılımlara karşı savunmasız kullanıcılar için tehlikeli bir ortam yaratıyor. Güvenlik araştırmacıları, bu yöntemin milyonlarca insanı kötü amaçlı web sitelerine maruz bıraktığını ve bilgilendirmek ve korumak için tasarlanmış yapay zekanın bile aldatma amacıyla kullanılabileceğini belirtiyor.
Guardio Labs’taki araştırmacılar, Nati Tal liderliğinde, 4 Eylül’de yaş kısıtlamalı bir X gönderisinde bu tekniği keşfetti ve “Grokking” adını verdi. Saldırganlar, kötü amaçlı URL’leri video kartı tanıtım gönderilerinin “Kimden:” meta verilerine gizliyor. Bu içerikler X tarafından denetlenmiyor. Bu reklamlar genellikle kullanıcıları çekmek için sansasyonel veya yetişkin temaları kullanırken, gerçek bağlantıyı moderatörlerden gizliyor.
Saldırganlar daha sonra kendi reklamlarına yanıt vererek Grok’u etiketliyor ve “Bu video nerede?” veya “Bu videonun bağlantısı nedir?” gibi sorular soruyor. X tarafından güvenilen Grok, gizli meta verileri okuyor ve bağlantıyı herkese açık olarak yanıtında paylaşıyor.
Sonuç olarak, kötü amaçlı yazılım içeren bağlantılar hem ücretli reklamların gücünden hem de Grok’un güvenilirliğinden yararlanıyor. Bu güçlü kombinasyon, yüz binlerce hatta milyonlarca gösterim elde edebiliyor.
Bu “Grokking” şeması, yapay zeka destekli siber suçlardaki artışın sadece bir örneği. Güvenlik araştırmacıları, WormGPT’nin kötü amaçlı yeni yapay zeka varyantlarını keşfetti. Bu varyantlar, X’in Grok’u ve Mistral’in Mixtral’i gibi ana akım modeller üzerine inşa ediliyor.
Cato Networks’e göre, kötü niyetli aktörler, bu ticari LLM’leri güvenlik önlemlerini göz ardı eden, “jailbreak” yapılmış arayüzlerle sarmalıyor. Bu varyantlardan biri, Şubat ayında BreachForums’ta Grok tarafından desteklenen “Sansürsüz Asistan” adı altında ortaya çıktı. Bir diğer varyant ise Ekim ayında Mixtral tabanlı bir versiyon olarak görüldü.
Suçlular, birkaç yüz euro karşılığında, kimlik avı e-postaları oluşturma, kötü amaçlı yazılım üretme, kod yükleri oluşturma ve hatta acemi hacker’lar için yapay zeka uzmanlığı gerektirmeyen eğitimler sağlama konusunda uzmanlaşmış yapay zeka araçlarına erişebiliyor.
