Meta AI görsellerini tespit eden yeni aracını tanıttı

Meta, yeni yapay zekâ destekli görsel üretim modeli Muse Image ile hazırlanan içerikleri belirlemeye yardımcı olacak yeni bir doğrulama aracını önizleme aşamasında tanıttı. Web üzerinden çalışan bu araç, Muse Image tarafından oluşturulan veya düzenlenen görsellerde bulunan görünmez filigranı tespit edebiliyor. Şirket, aynı teknolojinin ilerleyen dönemde yapay zekâ ile üretilen videolar için de kullanılacağını belirtirken, bu adımın dijital içeriklerin kaynağını daha kolay doğrulamayı hedeflediğini ifade ediyor.

Meta’nın paylaştığı bilgilere göre, sistemin temelinde Content Seal adı verilen görünmez filigran teknolojisi bulunuyor. Şirket, bu filigranın görüntü kırpılsa, sıkıştırılsa, yeniden boyutlandırılsa veya ekran görüntüsü alınsa bile korunabildiğini söylüyor. Web tabanlı doğrulama aracı da yüklenen görsel üzerinde bu filigranı arayarak içeriğin Meta AI tarafından oluşturulup oluşturulmadığına ilişkin ilk seviyede bir doğrulama sunuyor. Meta, bunun kesin bir doğrulama sistemi yerine kullanıcıların içeriklerin kaynağını daha iyi anlamasını sağlayacak bir araç olarak değerlendirilmesi gerektiğini vurguluyor.

Content Seal sistemi şimdilik Muse Image ile sınırlı

Content Seal, Meta’nın daha önce açık kaynak olarak paylaştığı filigran teknolojilerinden farklı olarak bu kez şirketin kendi geliştirdiği özel bir çözüm olarak sunuluyor. Bunun yanında Muse Image ile oluşturulan içeriklerde önceki Meta AI sürümlerinde görülen sağ alt köşedeki görünür logo da artık yer almıyor. Bunun yerine kullanıcıların fark edemeyeceği dijital bir işaretleme yöntemi tercih ediliyor.

Şirket, mevcut doğrulama sisteminin yalnızca Muse Image kullanılarak oluşturulan veya düzenlenen görselleri desteklediğini belirtiyor. Buna rağmen Content Seal teknolojisinin ilerleyen dönemde yapay zekâ ile oluşturulan ve düzenlenen videolara da genişletileceği açıklandı. Meta’nın üzerinde çalıştığı Muse Video isimli video üretim modelinin de yakında kullanıma sunulması planlanıyor. Böylece aynı doğrulama altyapısının hem görsel hem de video içeriklerinde kullanılabilmesi hedefleniyor.

İLGİNİZİ ÇEKEBİLİR

Engadget tarafından yapılan testlerde doğrulama aracının Muse Image ile tamamen oluşturulan görsellerin yanı sıra düzenlenen içerikleri de doğru şekilde tespit ettiği aktarıldı. Bunun yanında oluşturulan görsellerin ekran görüntülerinde de Content Seal filigranının algılanabildiği belirtildi. Meta’nın destek sayfasına göre olumlu sonuç alınması, görselin Meta AI uygulaması veya meta.ai üzerinden üretildiği ya da düzenlendiği anlamına geliyor. Olumsuz sonuç ise ilgili içeriğin Meta AI tarafından işlenmemiş olmasının daha olası olduğunu gösteriyor.

Öte yandan aynı doğrulama yeteneğinin Meta AI uygulamasındaki sohbet botuna henüz eklenmediği görülüyor. Haberde yer verilen denemelerde Meta AI asistanı, doğrulama aracı tarafından yapay zekâ üretimi olarak işaretlenen bir görsel hakkında kesin bir değerlendirme yapamadığını belirtti. Asistan, yalnızca görsele bakarak hangi yapay zekâ modeliyle üretildiğini anlayamadığını ve bu amaçla kullanılan bir tespit aracına sahip olmadığını ifade etti.

Meta’nın yapay zekâ içeriklerini etiketleme yaklaşımı daha önce de eleştirilere konu olmuştu. Şirketin bağımsız Oversight Board’u, bu yıl yayımladığı değerlendirmede Meta’nın kendi yapay zekâ araçlarıyla oluşturulan içeriklerde dijital filigran uygulamasını tutarlı biçimde hayata geçiremediğine yönelik endişelerini dile getirmişti. Yeni doğrulama sistemi bu eleştirilere verilen teknik yanıtlardan biri olarak değerlendirilebilir. Ne var ki mevcut sürümün henüz tüm Meta AI içeriklerini kapsamadığı görülüyor.

Bunun yanında sistemin bazı teknik sınırlamaları da bulunuyor. Content Seal, Google’ın SynthID sistemi veya C2PA Content Credentials standardı gibi diğer yaygın dijital filigran çözümleriyle uyumlu çalışmıyor. Testlerde Meta’nın eski yapay zekâ modelleriyle oluşturulan görseller de doğrulama aracı tarafından tespit edilemedi. Eski sohbetlerde üretilen görseller sisteme yüklendiğinde bunların Meta AI tarafından oluşturulup oluşturulmadığı belirlenemedi.

Buna ek olarak, doğrulama aracı kullanım kotasıyla da sınırlandırılmış durumda. Kısa süre içinde art arda yapılan yüklemelerin ardından sistem günlük doğrulama sınırına ulaşıldığı uyarısını gösteriyor. Bu durum, özellikle çok sayıda içerik doğrulaması yapmak isteyen kullanıcılar için mevcut önizleme sürümünün kullanımını kısıtlayabiliyor. Yine de Meta’nın Content Seal teknolojisini daha geniş ürün yelpazesine yayması ve video desteğini de eklemesiyle birlikte şirketin yapay zekâ kaynaklı içeriklerin tespit edilmesine yönelik yaklaşımının daha kapsamlı hale gelmesi bekleniyor.