Apple, gerçek kişilerin fotoğraflarından yapay zekâ yardımıyla pornografik deepfake içerikler oluşturulmasına imkân veren Kromix adlı uygulamayı App Store’dan kaldırdı. Wired’ın haberine göre, uygulamanın reklamları Meta platformlarında yayımlandı ve kampanya yalnızca erkek kullanıcılara yönelik toplam 32 reklamdan oluştu. Reklamlardan birinde ABD’li önde gelen bir kadın siyasetçiye oldukça benzeyen bir kişinin yapay zekâyla oluşturulmuş cinsel içerikli görüntüsü kullanıldı. Wired’ın Apple ve Meta ile iletişime geçmesinin ardından iki şirket de ayrı ayrı harekete geçti. Apple uygulamayı mağazadan çıkarırken Meta söz konusu reklam kampanyasını durdurdu.
Kromix, App Store’da kendisini bir “yapay zekâ görüntü stil aracı” olarak tanımlıyordu. Buna karşılık Wired tarafından incelenen video reklamlarından biri, uygulamanın mağazadaki bu görece genel tanımından çok farklı bir kullanım alanına odaklanıyordu. Reklamdaki seslendirmede aracın “kısıtlaması olmadığı” öne sürülüyor, kullanılan karakterlerin gerçek kişiler olduğu belirtiliyor ve uygulama erkeklerin gerçekten kullandığı yapay zekâ aracı şeklinde pazarlanıyordu. Aynı reklamda ABD bayrağı ve başkanlık bayrağının önünde duran, tanınmış bir kadın siyasetçiye benzeyen yapay zekâ üretimi bir kişi gösteriliyordu. Görüntü daha sonra aynı yüze sahip bir kişinin pornografik videoda yer aldığı sahneye geçiyordu.
Apple yapay zekâ ile çıplaklaştırma uygulamalarına karşı kurallarını hatırlattı
Apple, Wired’a yaptığı açıklamada Kromix’in App Store’daki ilk inceleme sürecini geçtikten sonra yasaklanan özellikleri ve içerikleri uygulamaya eklemiş göründüğünü belirtti. Şirket, pornografi oluşturmak, dağıtmak veya tüketmek amacıyla tasarlanan uygulamaların uzun süredir kesin biçimde yasaklandığını vurguladı. İnsanların fotoğraflarını yapay zekâyla çıplaklaştıran “nudification” uygulamalarının da App Review Guidelines kurallarına aykırı olduğunu kaydetti. Bunun yanında Apple, inceleme süreçlerini ve mağaza politikalarını aşmaya çalışan uygulamaları ve bunların arkasındaki geliştirici hesaplarını belirleyip kaldırmak için çalıştığını ifade etti. Bu açıklama, Kromix’in ilk onay sırasında sunduğu işlevlerle daha sonra kullanıcılara sağladığı özellikler arasında farklılık bulunduğuna işaret ediyor.
İLGİNİZİ ÇEKEBİLİR
Kromix vakası Apple’ın son dönemde karşı karşıya kaldığı tek örnek değil. San Francisco Şehir Savcısı David Chiu, kısa süre önce Apple’dan App Store’da bulunan sekiz “nudify” uygulamasını kaldırmasını istemişti. Bu tür uygulamalar, üretken yapay zekânın görüntü oluşturma ve düzenleme yeteneklerinin gelişmesiyle birlikte özellikle rıza dışı cinsel içerik konusunda daha ciddi bir sorun hâline geldi. Uygulama mağazalarının ön inceleme mekanizmaları belirli özellikleri tespit edebilse de geliştiricilerin daha sonra sunucu tarafında değişiklik yapması veya uygulamaya yeni yetenekler kazandırması denetimi zorlaştırabiliyor. Kromix konusunda Apple’ın verdiği açıklama da şirketin uygulamanın yasaklı özellikleri ilk incelemeden sonra eklediğini düşündüğünü gösteriyor.
Wired’ın ayrı bir araştırması ise benzer içeriklerin Meta reklamları üzerinden başka App Store uygulamalarına da kullanıcı yönlendirdiğini ortaya koydu. Bunlardan MaskAI adlı uygulama, kullanıcıların fotoğraf yüklemesine ve yüz değiştirme teknolojisiyle gerçek kişileri cinsel içerikli sahnelere yerleştirmesine olanak tanıyordu. Meta platformlarında MaskAI’ye bağlantı veren sorunlu reklamların tespit edilmesinin ardından WIRED konuyla ilgili Apple’a ulaştı. Apple daha sonra MaskAI’yi de App Store’dan kaldırdı. Böylelikle mesele tek bir uygulamanın mağaza kurallarını aşmasının ötesinde, reklam denetimi ile uygulama mağazası inceleme süreçlerinin aynı tür içerikleri ne ölçüde erken tespit edebildiği sorusunu da gündeme getiriyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Meta tarafındaki durum da benzer bir denetim sorununa dikkat çekiyor. Kromix için hazırlanan kampanyada 32 reklamın yalnızca erkek kullanıcılara gösterilmiş olması, uygulamanın hedef kitlesinin reklam sistemi üzerinden oldukça belirgin biçimde seçildiğini ortaya koyuyor. Buna rağmen gerçek kişilere benzeyen yüzlerin cinsel içerikli yapay zekâ görüntülerinde kullanılmasını açıkça öne çıkaran reklamların yayımlanabilmiş olması, reklam inceleme mekanizmalarının etkinliği konusunda soru işaretleri doğuruyor. Meta, Wired’ın iletişime geçmesinden sonra kampanyayı kaldırırken, Apple da uygulamayı mağazasından çıkardı. Her iki müdahalenin de dışarıdan gelen bildirim sonrasında gerçekleşmesi, yapay zekâ destekli rıza dışı cinsel içeriklerin dağıtımında yalnızca üretim araçlarının değil, bunları kullanıcılara ulaştıran reklam ve uygulama dağıtım kanallarının da daha yakından incelenmesine neden oluyor.
Kromix ve MaskAI örnekleri, mobil uygulama mağazalarında yapay zekâ araçlarının denetlenmesindeki temel güçlüğü açık biçimde gösteriyor. Bir uygulama ilk incelemede genel amaçlı görüntü düzenleme aracı gibi çalışırken daha sonra yasaklı özellikler kazanabiliyor; reklamlar ise bu özellikleri mağaza açıklamasından çok daha açık biçimde tanıtabiliyor. Apple’ın uygulamaları kaldırması ve Meta’nın reklamları durdurması mevcut politikaların bu içerikleri yasakladığını gösterse de vakaların ancak WIRED’ın bildirimlerinden sonra ele alınması denetimin zamanlamasına ilişkin soru işaretlerini ortadan kaldırmıyor. Üretken yapay zekâ araçları daha erişilebilir hâle geldikçe, gerçek kişilerin rızası olmadan oluşturulan cinsel içeriklerin tespiti hem uygulama mağazaları hem de reklam platformları için daha karmaşık bir moderasyon alanı olmaya devam ediyor. Kullanıcı açısından bakıldığında ise mağazada bulunmanın tek başına bir yapay zekâ uygulamasındaki bütün özelliklerin platform tarafından sürekli olarak incelendiği anlamına gelmediği bu örneklerle bir kez daha görülüyor.
