ABD merkezli çevrim içi savunuculuk kuruluşu Tech Transparency Project (TTP) tarafından yürütülen yeni bir araştırma, Apple App Store ve Google Play Store’daki içerik denetim süreçlerine yönelik ciddi soru işaretleri doğurdu. Rapora göre her iki platformda da “nudify” olarak adlandırılan ve yapay zekâ yardımıyla kişilerin rızası olmaksızın cinselleştirilmiş görüntüler üreten çok sayıda uygulama bulunuyor. Bu tür uygulamaların, Apple ve Google’ın kendi mağaza politikalarını açık biçimde ihlal ettiği ifade ediliyor. Buna rağmen söz konusu uygulamaların uzun süredir erişilebilir olması, denetim mekanizmalarının etkinliğini tartışmaya açıyor.
Araştırmada, Google Play Store’da 55, Apple App Store’da ise 47 adet nudify uygulamasının aktif olarak sunulduğu belirtiliyor. Bunun yanında, xAI tarafından geliştirilen ve rızasız derin sahte (deepfake) içerik üretimiyle sık sık gündeme gelen Grok isimli yapay zekâ aracının da her iki mağazada yer almaya devam ettiği aktarılıyor. TTP yetkilileri, bu durumun kötüye kullanım riskini artırdığına ve özellikle savunmasız gruplar açısından ciddi tehdit oluşturduğuna dikkat çekiyor.
Apple ve Google’ın aldığı komisyonlara dikkat çekildi
Raporda yer alan bilgilere göre, tespit edilen nudify uygulamaları toplamda 700 milyondan fazla kez indirildi ve 117 milyon doların üzerinde gelir elde etti. Bu gelirden Apple ve Google’ın da komisyon aldığı ifade ediliyor. Buna rağmen, uygulamaların mağazalarda uzun süre kalabilmiş olması, platformların ticari kazanç ile kullanıcı güvenliği arasındaki dengeyi nasıl kurduğu sorusunu gündeme getiriyor. Özellikle bu uygulamaların önemli bir bölümünün gençler ve çocuklar için uygun olarak derecelendirilmiş olması dikkat çekiyor.
Örneğin, DreamFace adlı uygulamanın Google Play Store’da 13 yaş ve üzeri, Apple App Store’da ise 9 yaş ve üzeri kullanıcılar için uygun olarak sınıflandırıldığı belirtiliyor. Her ne kadar bu tür uygulamaların açıklamalarında eğlence veya görsel düzenleme gibi ifadeler yer alsa da, gerçekte sundukları işlevlerin rızasız cinsel içerik üretimine kapı araladığı vurgulanıyor. Uzmanlar, bu durumun çocukların dijital güvenliği açısından ciddi riskler barındırdığını ifade ediyor.
Araştırmanın ardından her iki şirketten de sınırlı açıklamalar geldi. Apple, CNBC’ye yaptığı açıklamada 24 uygulamanın mağazadan kaldırıldığını duyurdu. Ne var ki bu sayı, TTP tarafından tespit edilen toplam uygulama sayısının oldukça altında kalıyor. Google cephesinde ise bazı uygulamaların politika ihlali gerekçesiyle askıya alındığı belirtildi, fakat kaç uygulamanın kaldırıldığına dair net bir rakam paylaşılmadı.
Bu gelişmeler, xAI’nin Grok adlı sohbet botunun kısa süre önce kadınlar ve çocuklar dahil olmak üzere cinselleştirilmiş görseller ürettiğinin ortaya çıkmasının ardından geldi. Yapılan incelemelerde, Grok’un 11 gün gibi kısa bir sürede yaklaşık üç milyon cinsel içerikli görsel ve 22 bin civarında çocukları içeren görüntü oluşturduğu öne sürüldü. Şirket temsilcilerinin iddialara yönelik kapsamlı bir yanıt vermemesi, eleştirilerin daha da artmasına neden oldu.
Öte yandan, X platformunun güvenlik hesabı, Grok’un yasa dışı içerik üretimi için kullanılması halinde kullanıcıların, bu içerikleri doğrudan yükleyenlerle aynı yaptırımlara maruz kalacağını belirtti. Buna rağmen, Grok’un kendisinin çocuklara yönelik cinsel içerik üretimi nedeniyle özür dilemesi, insan temsilcilerden daha açık bir tutum sergilediği yönünde yorumlara yol açtı. Teknoloji şirketlerinin uygulama mağazalarındaki denetim süreçlerini daha şeffaf ve etkili hale getirmesi gerektiği yönündeki çağrılar giderek güçleniyor.
Teknoblog, teknoloji gündemini farklı platformlarda düzenli biçimde paylaşıyor. WhatsApp kanalında öne çıkan haberleri anlık olarak aktarıyor, Google Haberler üzerinden güncel içerikleri sunuyor, Instagram ve X hesaplarında dikkat çeken başlıkları özetliyor, YouTube kanalında ise ürün incelemeleri ve detaylı anlatımlarla içeriği tamamlıyor.
