28 Ağustos sabahının erken saatlerinde Missouri’de bir üniversite kampüsündeki sakin bir otopark, 45 dakikada gerçekleşen bir vandalizm dalgasının hedefi oldu. 17 araçta camlar kırıldı, aynalar parçalandı, silecekler söküldü ve kaportalar ezildi. Zarar, on binlerce doları buldu.
Polis bir ay boyunca ayakkabı izleri, tanık ifadeleri ve güvenlik kamerası görüntülerini topladı. Ancak 19 yaşındaki üniversite öğrencisi Ryan Schaefer’in ChatGPT’ye yaptığı itiraf niteliğindeki yazışmalar, iddianameye giden süreci hızlandırdı. Schaefer, olaydan kısa süre sonra telefonundaki uygulamaya yaşananları anlattı ve “Ne kadar başım belada bro? Ya birden fazla arabayı paramparça ettiysem?” diye sordu.
Polis, Schaefer’a yöneltilen suçlamalara ilişkin raporda bu “rahatsız edici diyalog”u delil olarak gösterdi. Bu vaka, bir kişinin bir yapay zeka sohbet botundaki konuşmasıyla kendini suça bağladığı ilk bilinen örnek olarak kayda geçti.
Henüz bir hafta geçmeden ChatGPT, daha yüksek profilli bir başka olayda da resmi belgelere girdi. 29 yaşındaki Jonathan Rinderknecht, Ocak ayında Kaliforniya’da binlerce ev ve iş yerini yok eden ve 12 kişinin hayatını kaybetmesine neden olan Palisades Yangını’nı çıkarmakla suçlanarak gözaltına alındı. Rinderknecht’in, bir yapay zeka uygulamasından yanan bir şehir görselleri üretmesini istediği ifade edildi.
Bu iki dosya, yapay zekanın ileride farklı suç soruşturmalarında da adının geçeceğine işaret etti. OpenAI’nın CEO’su Sam Altman, kullanıcıların ChatGPT ile yaptıkları konuşmaların yasal bir koruması bulunmadığını söyledi. Altman, bunun yalnızca mahremiyet kaygılarını değil, insanların yapay zekayla paylaştığı son derece kişisel bilgilerin düzeyini de ortaya koyduğunu belirtti.
Altman, yıl içinde katıldığı bir podcast’te, “İnsanlar hayatlarındaki en kişisel şeyleri ChatGPT’ye anlatıyor. Özellikle gençler onu bir terapist, yaşam koçu gibi kullanıyor; ilişki sorunlarını paylaşıyor… Oysa şu anda bu sorunları bir terapist, avukat ya da doktorla konuşursanız yasal imtiyaz var.” dedi.
ChatGPT gibi yapay zeka modellerinin çok yönlülüğü, insanların bu araçları özel aile fotoğraflarını düzenlemeden banka kredisi teklifleri ya da kira sözleşmeleri gibi karmaşık belgeleri çözümlemeye kadar pek çok alanda kullanmasına yol açıyor. Bu işlemler yüksek düzeyde kişisel veri içeriyor. OpenAI’nın yakın tarihli bir çalışmasına göre kullanıcılar ChatGPT’ye giderek daha fazla tıbbi danışma, alışveriş ve rol yapma amacıyla başvuruyor.
Bu arada, bazı yapay zeka uygulamaları kendilerini sanal terapist ya da romantik partner olarak konumlandırıyor ve köklü firmalardaki kadar güçlü koruma önlemleri sunmuyor. Dark web’deki yasa dışı servisler, yapay zekayı sırdaşın ötesinde bir “suç ortağı” gibi konumlayan hizmetler veriyor.
Paylaşılan veri miktarı, hem kolluk kuvvetleri hem de bu verileri istismar etmek isteyen suçlular açısından dikkat çekici boyutta. Bu yıl başında Perplexity’nin AI destekli web tarayıcısı yayına girdiğinde, güvenlik araştırmacıları tarayıcının ele geçirilerek bir kullanıcının verilerine erişilebileceğini ve bunun şantaj için kullanılabileceğini gösterdi.
Teknolojiyi kontrol eden şirketler de bu yeni ve son derece mahrem veri kaynağını değerlendirmeyi planlıyor. Aralık ayından itibaren Meta, Facebook, Instagram ve Threads genelinde hedefli reklam sunmak için insanların AI araçlarıyla etkileşimlerinden yararlanacak.
Meta, kullanıcıların AI ile yaptığı sesli sohbetleri ve yazışmaları tarayarak kişisel tercihleri ve satın alma ilgilerini çıkaracak. Şirket, bu veri kullanımını kapatmak için bir seçenek sunmayacak. Meta, güncellemeyi duyuran blog yazısında şu örneği verdi: “Örneğin, Meta AI ile doğa yürüyüşü hakkında sohbet ederseniz, doğa yürüyüşüyle ilgilendiğinizi öğrenebiliriz. Sonuç olarak, doğa yürüyüşü grubu önerileri, arkadaşlardan parkur paylaşımları ya da yürüyüş botu reklamları görmeye başlayabilirsiniz.”
Bu kulağa zararsız gelebilir. Ancak arama motorları ve sosyal ağlar üzerinden sunulan hedefli reklamlarla ilgili vaka incelemeleri, bu uygulamaların ne kadar yıkıcı olabileceğini gösterdi. “Need money help” gibi aramalar, tefeciliğe varan şartlara sahip kredilerin reklamlarını tetikledi. Çevrim içi kumarhaneler, bağımlı kumarbazları ücretsiz çevrim teklifleriyle hedef aldı. Yaşlı kullanıcılar, emeklilik birikimlerini aşırı pahalı altın hatıra sikkelerine harcamaya yönlendirildi.
Meta’nın CEO’su Mark Zuckerberg, yeni AI reklam politikasıyla toplanacak özel verinin kapsamının farkında olduğunu Nisan ayında belirtti: Kullanıcılar, Meta AI’ın “sizin ve uygulamalarımızdaki önem verdiğiniz insanlar hakkında çok şey bilmesine” izin verebilecek. Zuckerberg, geçmişte Facebook kullanıcılarını verilerine güvendikleri için “dumb fucks” diye nitelemişti.
Malwarebytes’tan Pieter Arntz, Meta’nın işleyişini şöyle tanımladı: “Beğenin ya da beğenmeyin, Meta dünyanın dört bir yanındaki arkadaşları birbirine bağlamakla ilgili değil. İş modeli, platformları genelinde hedefli reklam alanı satmaya neredeyse tamamen dayanıyor.” Arntz, “Sektör büyük etik ve mahremiyet sorunlarıyla karşı karşıya. Markalar ve AI sağlayıcıları, AI araçları hassas davranışsal verileri toplarken ve analiz ederken kişiselleştirmeyi şeffaflık ve kullanıcı kontrolü ile dengelemeli.” dedi.
Yapay zekanın kullanım alanı genişledikçe, kişisel gizlilik ile kolaylık arasındaki denge yeniden sorgulanıyor. Cambridge Analytica skandalının, insanların Facebook gibi sosyal ağları nasıl kullandıklarını sorgulamalarına yol açması gibi, hem Schaefer ve Rinderknecht vakaları hem de yeni veri toplama trendi, mahremiyet konusunu teknoloji gündeminde yeniden öne çıkarıyor.
ChatGPT’nin çıkışından üç yıldan kısa süre sonra, bağımsız AI uygulamalarını kullanan kişi sayısı 1 milyarın üzerine çıktı. Bu kullanıcılar, çoğu zaman farkında olmadan, fırsatçı teknoloji şirketlerinin, reklamcıların ve hatta kriminal soruşturma makamlarının sömürüsüne maruz kalabiliyor.
Uzun zamandır dillendirilen bir söz, “Bir hizmete para ödemiyorsanız müşteri değil, ürünsünüz.” der. Yeni AI çağında bazıları, bu deyişte “ürün” kelimesinin “av” ile değiştirilmesi gerektiğini savunuyor.
