xAI tarafından geliştirilen ve X platformuyla entegre şekilde çalışan Grok isimli yapay zekâ aracı, son dönemde ciddi iddialarla gündeme gelmiş durumda. Daha önce gerçek kişilerin rızası olmadan oluşturulan cinsel içerikli görsellerle eleştirilen Grok hakkında yayımlanan yeni bir araştırma, sorunun boyutunu sayısal verilerle ortaya koyuyor. İngiltere merkezli Center for Countering Digital Hate (CCDH) tarafından hazırlanan rapora göre, Grok yalnızca 11 günlük bir süre içinde tahmini olarak 3 milyon cinsel içerikli görsel üretti. Bu görsellerin yaklaşık 23 bininin çocukları kapsadığı öne sürülüyor. Araştırma, dakikada ortalama 190 cinsel içerikli görsel üretildiğini, çocukları içeren görsellerin ise ortalama 41 saniyede bir ortaya çıktığını iddia ediyor.
CCDH, bulgularını 29 Aralık ile 9 Ocak tarihleri arasında rastgele seçilen 20 bin Grok görseline dayandırdı. Daha sonra bu örneklem, aynı dönemde üretilen toplam 4,6 milyon görsel üzerinden genelleştirildi. Araştırmada cinsel içerikli görsel tanımı oldukça geniş tutuldu. Buna göre fotogerçekçi şekilde cinsel pozisyonlar, cinsel çağrışımlı açılar, iç çamaşırı veya benzeri kıyafetlerle betimlemeler ile cinsel sıvı tasvirleri bu kapsama dahil edildi. Ne var ki, görsellerin hangi komutlarla üretildiği analiz edilmediğinden, tamamen metin girdisine dayalı üretimler ile gerçek fotoğrafların düzenlenmiş halleri arasında net bir ayrım yapılmadı.
CCDH’nin Grok raporu ve platformların yaklaşımı
Araştırmada kullanılan analiz yönteminin yapay zekâ tabanlı bir araç olması, sonuçlara temkinli yaklaşılması gerektiğini ortaya koyuyor. Buna rağmen, X platformunun API altyapısını kullanan üçüncü taraf analiz servislerinin genellikle güvenilir veriler sunduğu ifade ediliyor. Bu durum, rapordaki tahminlerin tamamen varsayımsal olmadığına işaret ediyor. Öte yandan xAI, 9 Ocak itibarıyla Grok’un mevcut görselleri düzenleme yeteneğini yalnızca ücretli kullanıcılara açtı. Bu adım, sorunu ortadan kaldırmaktan ziyade erişimi sınırlı bir hale getirdi. Beş gün sonra ise X üzerinde Grok’un gerçek kişilerin dijital olarak soyundurulmasını engelleyen bir kısıtlama getirildi.
Her şeye rağmen bu sınırlamanın yalnızca X platformuyla sınırlı kaldığı, bağımsız Grok uygulamasında benzer içeriklerin üretilebildiği aktarılıyor. Apple ve Google’ın uygulama mağazalarında yer alan Grok’un, şirket politikalarına aykırı olmasına rağmen kaldırılmaması dikkat çekiyor. Benzer içerikler üreten diğer uygulamaların mağazalardan çıkarıldığı bilinirken, Grok için aynı yaklaşımın sergilenmemesi eleştiri konusu olmuş durumda. Bu süreçte 28 kadın hakları örgütü ve çeşitli sivil toplum kuruluşları, Apple ve Google’a açık mektup yayımlayarak müdahale çağrısında bulundu. Buna karşın her iki şirketin de kamuoyuna açık bir yanıt vermediği belirtiliyor.
Raporda, üretilen içeriklerin niteliğine dair çarpıcı örnekler de yer alıyor. Şeffaf bikiniler, mikro bikiniler veya günlük nesnelerle örtülmüş şekilde tasvir edilen kadın figürlerinin yanı sıra, bazı siyasi isimler ve ünlülerin de bu görsellerde yer aldığı aktarılıyor. Araştırmada çocukları içeren görsellerin önemli bir bölümünün X üzerinde erişilebilir durumda kalmaya devam ettiği ifade ediliyor. Dahası, paylaşımlar silinse bile doğrudan bağlantılar aracılığıyla görsellere erişimin sürdüğü vurgulanıyor.
Tüm bunlara ek olarak rapor, içerik denetimi ve platform sorumluluğu konularını yeniden gündeme taşıyor. Yapay zekâ araçlarının hızlı gelişimi, bu tür teknolojilerin hangi sınırlar içinde kullanılacağına dair daha net ve uygulanabilir politikalara duyulan ihtiyacı ortaya koyuyor. Mevcut bulgular, yalnızca tek bir platformu değil, uygulama mağazaları ve teknoloji şirketlerinin genel yaklaşımını da tartışmaya açmış durumda.
Teknoblog, teknoloji gündemini farklı platformlarda düzenli biçimde paylaşıyor. WhatsApp kanalında öne çıkan haberleri anlık olarak aktarıyor, Google Haberler üzerinden güncel içerikleri sunuyor, Instagram ve X hesaplarında dikkat çeken başlıkları özetliyor, YouTube kanalında ise ürün incelemeleri ve detaylı anlatımlarla içeriği tamamlıyor.
