Meta, yeni görüntü oluşturma modeli Muse Image ile üretilen görüntü ve videoları tanımlamak için bir araç geliştiriyor. Şirket, bu yeni modelin kullandığı görünmez filigranları kontrol eden web tabanlı bir aracın önizlemesini tanıttı.
Content Seal adı verilen bu filigran sistemi, “kırpıldığında, sıkıştırıldığında, boyutlandırıldığında veya ekran görüntüsü alındığında bile yerinde kalıyor,” diye açıklıyor Meta. “Bir görüntünün Content Seal filigranına sahip olup olmadığını kontrol etmenizi sağlayan bir tespit aracı sunuyoruz. Bu, bir görüntünün Meta AI ile mi yapıldığını anlamanıza yardımcı olacak ilk yol.”
Content Seal, Meta için oldukça yeni bir yaklaşım olarak öne çıkıyor. Muse Image ile entegre olan versiyonu özel olarak geliştirilmiş durumda, ancak Meta daha önce bu teknolojinin açık kaynak sürümlerini yayınlamıştı. Şirketin yeni modellerinde, daha önceki sürümlerde sağ alt köşeye eklenen küçük logolar gibi görünür filigranlar bulunmuyor.
Meta’nın tespit yetenekleri şu anda yalnızca Muse Image ile oluşturulan veya düzenlenen görüntülerle sınırlı. Şirket, Content Seal filigranlarını yapay zeka ile oluşturulan ve düzenlenen videolara genişletmeyi planlıyor. Ayrıca, çok yakında yayınlanacak Muse Video adında ayrı bir video oluşturma modeli üzerinde de çalışıyor.
Yeni tespit özelliğini, Meta AI ile oluşturduğum güncel görüntülerde denedim ve web tabanlı aracın hem düzenlenen hem de tamamen yapay zeka ile üretilen eserlerde filigranı belirleyebildiğini gördüm. Araca yüklediğim görüntülerin ekran görüntülerinde de filigranı buldu. “Pozitif bir sonuç, bu görüntünün Meta AI uygulaması veya meta.ai kullanılarak oluşturulduğu veya düzenlendiği anlamına geliyor,” şeklinde açıklama yaptı şirket. “Negatif bir sonuç ise, görüntünün muhtemelen Meta AI uygulaması veya meta.ai kullanılmadan işlenmiş olduğunu gösteriyor.”
İlginç bir şekilde, Meta AI’nin yeni tespit yetenekleri, henüz Meta AI uygulamasının bir parçası gibi görünmüyor. Web aracının tanımladığı bir görüntü hakkında Meta’nın uygulama tabanlı asistanına sorduğumda, “Bunu sadece bakarak kesin olarak söyleyemem,” yanıtını aldım. “Meta AI, otomatik olarak görüntülere filigran eklemiyor ve hangi AI modelinin mevcut bir görüntü oluşturduğunu belirleyebilecek bir aracım yok.” dedi.
Meta, daha önce uygulamalarındaki yapay zeka ile üretilen materyalleri nasıl etiketlediği ve tanımladığı konusundaki eleştirilerle karşılaşmıştı. Yönetim Kurulu, bu yılın başlarında Meta’nın yapay zeka araçlarıyla oluşturulan içeriklerde dijital filigranları “tutarsız bir şekilde uyguladığından” duyduğu endişeyi dile getirmişti.
Yeni özelliğin bazı sınırlamaları da bulunuyor. Content Seal, diğer şirketlerin kullandığı iki yerleşik filigranlama yöntemi olan SynthID ve C2PA İçerik Kimlik Bilgileri ile uyumlu değil. Web tabanlı özellik, testlerimde Meta’nın daha önceki AI modelleriyle oluşturulan veya düzenlenen görüntüleri tespit edemedi. Meta AI ile önceki sohbetlerde oluşturduğum görüntüleri eklediğimde, bu görüntünün AI tarafından mı yapıldığını belirleyemedi. Ayrıca, kullanımla ilgili olarak, kullanıcılar gündelik tanımlama kontrol sınırlarına ulaştıklarında bildirim alıyor.
