Google, yapay zekayı hizmetlerinin her köşesine entegre etme çabalarına hız kesmeden devam ediyor, ancak son denemesi kaş yapayım derken göz çıkarıyor gibi görünüyor. The Verge ve Engadget tarafından fark edilen yeni bir teste göre Google, Discover akışındaki makale başlıklarını yapay zeka kullanarak otomatik olarak yeniden yazıyor.
Ancak sonuçlar, yanıltıcı ve hatta tamamen yanlış bilgiler içerebiliyor.
Fiyat açıklandı dendi ama ortada fiyat yok
Yapay zekanın müdahalesi, sadece stilistik bir değişiklikten ibaret değil; içeriğin özünü değiştiren ciddi hatalara yol açıyor.
Tespit edilen en çarpıcı örneklerden biri, Valve’ın yeni Steam Machine donanımıyla ilgili bir haberde yaşandı:
- Orijinal başlık (Ars Technica): “Valve’ın Steam Machine’i konsol gibi görünüyor, ancak fiyatının öyle olmasını beklemeyin.”
- Google’ın yapay zeka başlığı: “Steam Machine fiyatı açıklandı.”
Gerçekte ne makalede ne de Valve tarafından yapılmış resmi bir fiyat açıklaması vardı. Yapay zeka, okuyucuyu tıklamaya teşvik eden ancak içeriği tamamen yanlış yansıtan bir başlık uydurmuştu.
Google: “Bu sadece küçük bir deney”
Google sözcüsü Mallory Deleon, durumun farkında olduklarını ve bunun “Discover kullanıcılarının bir alt kümesi için yapılan küçük bir kullanıcı arayüzü deneyi” olduğunu belirtti. Google’a göre amaç, kullanıcıların bağlantılara tıklamadan önce konu detaylarını daha kolay sindirmelerini sağlamak.
Keşfedilen örneklerde, değiştirilen başlıkların veya özetlerin altında “Yapay zeka ile oluşturulmuştur, hatalar yapabilir” şeklinde bir uyarı etiketi bulunuyor. Ancak eleştirmenler, Google’ın bu hataları yapmaktan tamamen kaçınması ve orijinal başlıkları olduğu gibi bırakması gerektiğini savunuyor.
Yayıncılar ve içerik üreticileri için endişe verici
Bu gelişme, Google’ın çevrimiçi medya ile olan karmaşık ilişkisinde yeni bir gerilim noktası yaratabilir. Yayıncılar, içeriklerinin nasıl sunulduğu üzerinde kontrol sahibi olmak isterken, Google’ın araya girip başlıkları değiştirmesi (ve bunu bazen hatalı yapması), hem okuyucu güvenini zedeliyor hem de içeriğin orijinal bağlamını bozuyor.
Google, arama deneyimine daha fazla yapay zeka (AI Mode, AI Overview) entegre etmeye devam ederken, bu tür “halüsinasyon” ve yanlış bilgi sorunlarının kullanıcı deneyimini nasıl etkileyeceği merak konusu.
