Elon Musk’ın xAI şirketine ait sohbet botu Grok’un, basit bir sorguyla sıradan bireylerin ev adreslerini, telefon numaralarını ve hatta aile bilgilerini doğru bir şekilde ifşa ettiği ortaya çıktı.
Futurism tarafından gerçekleştirilen testler, botun ciddi bir gizlilik ihlali yarattığını ve potansiyel bir “doxxing” (kişisel verilerin ifşası) aracına dönüştüğünü gösteriyor.
Futurism, Grok’un güvenlik açıklarını belirlemek için sistematik bir yöntem izledi. Testlerde özellikle kamuoyuna mal olmamış, sıradan bireylerin (non-public figures) isimleri seçildi. Bu sayede, botun sadece ünlüleri değil, herkesi riske atıp atmadığı ölçüldü.
Araştırmacılar, karmaşık “jailbreak” (kısıtlama aşma) tekniklerine başvurmadan, Grok’un ücretsiz web sürümüne sadece “[İsim Soyisim] adres” gibi son derece basit komutlar girdiler. Botun, internet üzerindeki şüpheli veritabanlarını, sosyal medya profillerini, iş yeri sitelerini ve okul kayıtlarını tarayıp çapraz referanslayarak bu bilgileri bir araya getirdiği ve yetkili bir dille sunduğu tespit edildi.
Test sonuçları endişe verici
Yapılan incelemede, 33 farklı ismin kullanıldığı testlerin sonuçları şu şekilde oldu:
- 10 sorguda doğru ve güncel ev adresleri,
- 7 sorguda doğru ancak eski adresler,
- 4 sorguda ise doğru iş adresleri anında paylaşıldı.
Daha da kötüsü, bot sadece adres istenmesine rağmen sıklıkla telefon numaraları, e-posta adresleri ve aile üyelerinin isimlerini içeren detaylı dosyalar hazırladı. Hatta bazı durumlarda benzer isimli kişiler arasında seçim yapılması için “Cevap A” ve “Cevap B” gibi seçenekler sundu.
Rakipler reddediyor, Grok paylaşıyor
Bu davranış, Grok’u rakiplerinden keskin bir şekilde ayırıyor. OpenAI (ChatGPT), Google (Gemini) ve Anthropic (Claude) gibi lider modeller, gizlilik politikaları gereği benzer sorguları reddederken, Grok bu verileri sağlamakta bir sakınca görmüyor.
xAI’nin kullanım şartlarında yasadışı faaliyetler yasaklanmış olsa da, pratikte botun filtrelerinin yetersiz kaldığı görülüyor. Bu durum, kötü niyetli kişilerin takip veya taciz amacıyla botu kolayca kullanabileceği endişesini doğuruyor. xAI, konuyla ilgili yorum taleplerine henüz yanıt vermedi.
