Apple ve Google’ın uygulama mağazalarında, politikalarla açıkça yasaklanmasına rağmen “nudify” (çıplaklaştırma) olarak bilinen yapay zekâ uygulamalarının hâlâ yer aldığı ve kullanıcılara önerildiği öne sürülüyor. Tech Transparency Project tarafından yayımlanan güncel rapor, bu tür uygulamaların yalnızca erişilebilir olmaya devam etmediğini, aynı zamanda App Store ve Google Play arama sonuçlarında öne çıkarıldığını gösteriyor. Üstelik bu uygulamaların önemli bir kısmı “Herkes” yaş derecelendirmesiyle listeleniyor ve çocukların da indirip kullanabilmesine olanak tanıyor.
Rapora göre kullanıcılar mağazalarda “nudify” veya “undress” gibi anahtar kelimelerle arama yaptığında, gerçek kişilerin görüntülerini yapay zekâ yardımıyla çıplak hale getirebilen ya da pornografik içeriklere dönüştürebilen uygulamalara kolayca ulaşabiliyor. Bunun yanında bazı uygulamaların doğrudan bu amaçla pazarlanmadığı, ancak derin sahte (deepfake) içerik üretimi için kullanılabildiği belirtiliyor. Arama sonuçlarında benzer uygulamalara ait reklamların da gösterilmesi, platformların bu içeriklerin yayılımında pasif kalmadığı yönündeki eleştirileri artırıyor.
Yapay zekâ ile oluşturulan deepfake uygulamalarının yayılımı tartışma yaratıyor
Tech Transparency Project, Apple App Store’da 18, Google Play’de ise 20 farklı nudify uygulaması tespit ettiğini bildiriyor. Bu uygulamaların bir kısmı doğrudan cinsel içerik görselleriyle tanıtılırken, bazıları daha genel ifadeler kullanarak farklı bir izlenim veriyor. Buna rağmen söz konusu uygulamaların büyük bölümünün aynı amaca hizmet ettiği ve kullanıcıların fotoğraflarını manipüle ederek uygunsuz içerikler oluşturabildiği ifade ediliyor.
Rapor, bu uygulamaların toplamda yaklaşık 122 milyon dolar gelir elde ettiğini ve 483 milyon kez indirildiğini ortaya koyuyor. Bu rakamlar, uygulamaların geniş bir kullanıcı kitlesine ulaştığını ve ekonomik olarak da ciddi bir hacim oluşturduğunu gösteriyor. Tech Transparency Project Direktörü Katie Paul, platformların yalnızca bu uygulamaları denetlemekte yetersiz kalmadığını, aynı zamanda kullanıcıları bu uygulamalara yönlendirdiğini dile getiriyor.
Apple ve Google ise uygulama mağazalarında pornografik içerikleri yasaklayan politikalara sahip olduklarını vurguluyor. Google’ın özellikle nudify uygulamalarına karşı ayrı bir kural seti bulunuyor. Buna rağmen uygulamaların uzun süre yayında kalabilmesi, denetim süreçlerinin etkinliği konusunda soru işaretleri doğuruyor. Apple, raporda adı geçen 15 uygulamanın kaldırıldığını belirtirken, Google da bazı uygulamaların askıya alındığını açıkladı. Yine de benzer uygulamaların farklı isimler ve yöntemlerle mağazalara geri dönebildiği biliniyor.
Örnek olarak raporda yer verilen uygulamalardan biri, Video Face Swap AI DeepFace adıyla sunuluyor. Bu uygulama, bir kişinin yüzünü başka bir vücuda yerleştirme özelliğiyle tanıtılıyor ve kısmen çıplak kadın bedenleri üzerine gerçek kişilerin yüzlerinin eklenmesine imkân tanıyor. Buna rağmen uygulamanın “Herkes” kategorisinde yer alması dikkat çekiyor.
Tüm bunlara ek olarak, yapay zekâ destekli deepfake uygulamalarının yaygınlaşması, farklı ülkelerde yasal düzenleme çağrılarını da hızlandırdı. Birleşik Krallık’ta Çocuk Komiserliği, çocuklara yönelik cinsel içerik üretebilen yapay zekâ uygulamalarının yasaklanmasını talep etti. ABD ve diğer bazı ülkelerde de açık şekilde cinsel içerik üreten deepfake’lere karşı yeni yasalar gündeme geldi. Kaliforniya Başsavcılığı’nın, X platformuna Grok üzerinden üretilen uygunsuz deepfake içerikler nedeniyle ihtar göndermesi de bu tartışmanın teknoloji şirketleriyle sınırlı kalmadığını gösteriyor.
