Siber güvenlik yöneticileriyle yapılan bir ankete göre, şirketlerin %62’si geçtiğimiz yıl içinde çalışanlarının yapay zeka kullanılarak hedef alındığını bildirdi. Saldırganlar bu amaçla komut enjeksiyonu (prompt-injection) yöntemlerine veya yapay zeka tarafından üretilen sahte ses ve video (deepfake) içeriklerine başvurdu. Bu saldırı vektörleri arasında en yaygın olanı, çalışanlara yönelik yapılan deepfake sesli aramalardı. Ankete katılan şirketlerin %44’ü en az bir kez bu tür bir olayla karşılaştığını belirtti.
Deepfake sesli aramaların %6’sının iş kesintisi, finansal kayıp veya fikri mülkiyet kaybına neden olduğu tespit edildi. Ancak, bir ses tarama hizmeti kullanıldığında bu kayıp oranının %2’ye düştüğü gözlemlendi. Video deepfake saldırıları ise şirketlerin %36’sı tarafından rapor edildi. Bu video saldırılarının da %5’i ciddi sorunlara yol açtı.
Güvenlik firması Sophos’un küresel saha CISO’su Chester Wisniewski, konuya ilişkin yaptığı açıklamada, deepfake seslerin giderek daha inandırıcı ve ucuz hale geldiğini belirtti. Wisniewski, “Ses ile bu tür aramaları artık gerçek zamanlı olarak üretebiliyorsunuz. Eğer bu kişi eşiniz olsaydı farkı anlardı, ancak ara sıra konuştuğunuz bir iş arkadaşınızsa, bunu neredeyse duraksamadan gerçek zamanlı olarak yapabilirsiniz ki bu da gerçek bir zorluk,” ifadelerini kullandı. Wisniewski ayrıca, sesli deepfake rakamlarının sorunun boyutunu tam olarak yansıtmadığını düşündüğünü ekledi.
Buna karşılık, belirli bir kişinin gerçek zamanlı video deepfake’ini oluşturmanın maliyetinin milyonlarca dolara ulaşabildiği için oldukça pahalı olduğu vurgulanıyor. Sophos, dolandırıcıların bir WhatsApp görüşmesinde kısa süreliğine bir CEO veya CFO’nun video deepfake’ini kullandığı vakalar tespit etti. Bu yöntemde dolandırıcı, bağlantı sorunları olduğunu iddia ederek video akışını sonlandırıyor ve sosyal mühendislik saldırısına metin tabanlı iletişimle devam ediyor.
Kimlik çalmaktan ziyade bir kişinin kimliğini gizlemek amacıyla kullanılan genel video sahtekarlıkları ise daha yaygın bir yöntem olarak öne çıkıyor. Örneğin, Kuzey Kore’nin yapay zeka sahtekarlığı kullanarak kendi çalışanlarını Batılı şirketlere kiraladığı ve bu yolla milyonlarca dolar gelir elde ettiği bildiriliyor. Bu sahte profillerin profesyoneller için bile oldukça inandırıcı olabildiği belirtiliyor.
Yükselişte olan bir diğer yapay zeka saldırı türü ise komut enjeksiyonu (prompt-injection) saldırılarıdır. Bu saldırılarda, bir yapay zeka sisteminin işlediği içeriğe kötü amaçlı talimatlar gömülür. Böylece sistem, hassas bilgileri ifşa etmesi, araçları kötüye kullanması ve entegrasyonların izin vermesi durumunda potansiyel olarak kod yürütmesi için kandırılır. Gartner tarafından yapılan bir ankete göre, katılımcıların %32’si uygulamalarına yönelik komut enjeksiyonu saldırıları yaşadıklarını ifade etti.
Bu tür saldırıların gerçek dünya örnekleri arasında, Google’ın Gemini sohbet robotunun bireysel kullanıcıların e-postalarını ve “akıllı” ev sistemlerini hedef almak için kullanılması bulunuyor. Benzer şekilde, Anthropic şirketinin Claude modelinin de komut enjeksiyonu sorunları yaşadığı görüldü. Araştırmacılar ayrıca, ChatGPT’nin bir insan yerine makineyi tespit etmesi beklenen CAPTCHA testlerini çözmesi veya web sitelerine karşı hizmet reddi (denial-of-service) benzeri trafik oluşturacak şekilde davranması için kandırılabileceğini ortaya koydu.
