Arama motorlarının kullanıcılara varsayılan olarak yapay zeka destekli özetler sunmaya başlaması, doğruluk endişelerini ve site trafiklerindeki düşüş tartışmalarını beraberinde getirdi. The New York Times tarafından yayımlanan verilere göre, Google arama motorundaki yapay zeka özetlerinin yaklaşık onda biri yanlış bilgi barındırıyor.
Şirketin yılda 5 trilyon sorgu işlediği göz önüne alındığında, bu yüksek hacim kullanıcıların her saat 57 milyondan fazla hatalı yanıta maruz kalması anlamına geliyor.
Bağımsız testler hata payının devasa boyutlara ulaştığını ortaya koyuyor
Yapay zeka girişimi Oumi, SimpleQA adlı ölçüm sistemini kullanarak 4 binden fazla arama sonucunu analiz etti. Yapılan değerlendirmelerde geçen yılın ekim ayında Gemini 2 modelinin özetlerinde yüzde 85 olan doğruluk oranının, şubat ayındaki Gemini 3 sürümüyle yüzde 91’e yükseldiği belirlendi. Ancak Google sözcüleri bu testin hatalı olduğunu ve gerçek dünya arama davranışlarını yansıtmadığını savundu. Şirket içi testler, Gemini 3 modelinin Google Arama altyapısından bağımsız çalıştığında yüzde 28 oranında halüsinasyon gördüğünü doğruluyor.
Diğer yandan araştırmacılar sistemin dışarıdan manipülasyona son derece açık olduğunu kanıtladı. Bir BBC gazetecisinin kasıtlı olarak yazdığı yanlış bilgiler içeren blog yazısının, sadece bir gün sonra Google tarafından doğruymuş gibi arama özetlerine eklendiği tespit edildi.
Özetlenen metinler ile kaynak gösterilen bağlantılar birbiriyle uyuşmuyor
Sistemdeki bir diğer büyük sorun ise sunulan bilgiler ile kaynak gösterilen siteler arasındaki büyük tutarsızlık olarak öne çıkıyor. Google her ne kadar iddiaları ilgili bağlantılarla desteklemeye çalışsa da bu kaynaklar çoğu zaman yapay zekanın yazdığı metni doğrulamıyor. Şubat ayında yapılan son güncellemeyle birlikte yapay zeka özetleri ile gösterilen kaynaklar arasındaki tutarsızlık oranı yüzde 37’den yüzde 56’ya fırladı. Bazen yanlış bir özetin altına tamamen doğru bilgilerin yer aldığı bir bağlantı eklenirken, doğru özetlerin altında yanlış bilgi yayan kaynaklar listelenebiliyor.
Tüm bu güvenlik ve doğruluk sorunlarının gölgesinde teknoloji devleri, sundukları araçların hata yapma potansiyelini kullanıcı sözleşmelerinde açıkça kabul ediyor
- Microsoft Copilot aracının yalnızca eğlence amaçlı tasarlandığını vurguluyor.
- Google Kullanıcıları arama özetlerindeki yanıtları her zaman iki kez kontrol etmeye teşvik ediyor.
- xAI Sistemlerinin halüsinasyon görme ve hayal üretme olasılığının bulunduğunu baştan kabul ediyor.
