Grok çocukluk fotoğrafından müstehcen içerik üretti mi?

Elon Musk’ın yapay zekâ şirketi xAI tarafından geliştirilen Grok, gerçek kişilerin fotoğraflarından cinsel içerikli görüntüler oluşturmak için kullanıldığı iddiaları nedeniyle açılan bir davada yeniden gündeme geldi. Mahkeme belgelerinde Jane Doe 4 adıyla tanımlanan bir kadın, Tennessee’de yaşayan üç genç tarafından xAI’a karşı daha önce açılan davaya katıldı. Kadın, üvey babasının kendisinin 11 yaşındayken çekilmiş bir çocukluk fotoğrafını Grok aracılığıyla değiştirerek 7 binden fazla müstehcen görüntü oluşturduğunu öne sürdü. The Washington Post tarafından aktarılan iddialara göre, söz konusu içerikler kolluk kuvvetlerinin düzenlediği bir baskın sırasında ortaya çıkarıldı. Davaya sonradan katılan kadının anlatımı, üretken yapay zekâ araçlarının gerçek çocuklara ait görüntüler üzerinde kötüye kullanılmasını engelleyen güvenlik mekanizmalarının yeterliliğine ilişkin tartışmayı da yeniden gündeme taşıyor.

Jane Doe 4, görüntülerin bulunmasından iki gün sonra üvey babasının intihar sonucu ölü bulunduğunu da belirtti. Kadın, bu tür araçlara sınırsız erişimin çok hızlı biçimde yayıldığını ve günlük hayata ait sıradan materyallerin çocukların cinsel istismarını içeren içeriklere dönüştürülebildiğini söyledi. Davadaki iddialar henüz mahkeme tarafından hükme bağlanmış değil ve bu nedenle xAI’ın hukuki sorumluluğuna ilişkin değerlendirmelerin dava süreci tamamlanmadan kesinleşmesi mümkün değil. Bununla birlikte olayın merkezindeki mesele yalnızca bir yapay zekâ modelinin hangi tür görüntüler üretebildiğiyle sınırlı kalmıyor. Gerçek kişilerin, özellikle de çocukların fotoğraflarını temel alan cinsel içerikli yapay görüntülerin oluşturulmasının teknik olarak ne ölçüde engellendiği ve geliştiricilerin kötüye kullanımı önlemek için hangi tedbirleri uyguladığı da davanın temel başlıkları arasında bulunuyor.

İLGİNİZİ ÇEKEBİLİR

xAI davasında Grok’un güvenlik önlemleri sorgulanıyor

Davayı ilk açan Tennessee’li üç genç, xAI’ın Grok’un gerçek kişileri ve reşit olmayanları konu alan müstehcen görüntüler üretmek amacıyla kullanılmasını önleyecek temel tedbirleri uygulamadığını iddia ediyor. Davacılara göre şirket, aracın kötüye kullanılabileceğini öngörmesine rağmen yeterli koruma mekanizmalarını devreye sokmadı. Bu iddialar, yılın başlarında X platformunda Grok ile oluşturulan milyonlarca cinselleştirilmiş görüntünün yayılmasıyla ilgili tartışmaların ardından geliyor. Davacılar, böylelikle sorunun münferit kullanıcı davranışlarının ötesine geçtiğini ve ürünün güvenlik tasarımının da incelenmesi gerektiğini savunuyor. Öte yandan xAI’ın sorumluluğunun kapsamı, alınan teknik önlemlerin niteliği ve kullanıcıların eylemleriyle şirketin yükümlülükleri arasındaki sınır mahkemenin değerlendireceği konular arasında yer alacak.

Üç gencin başlattığı davada toplu dava statüsü de talep ediliyor. Bu talebin kabul edilmesi hâlinde benzer biçimde zarar gördüğünü ileri süren daha geniş bir grubun aynı dava kapsamında temsil edilmesinin önü açılabilir. Jane Doe 4’ün dosyaya katılması ise Grok hakkındaki iddialara çocukluk dönemine ait gerçek bir fotoğrafın kaynak olarak kullanıldığı farklı bir örnek ekliyor. Bunun yanında dava, üretken yapay zekâ hizmetlerinde yalnızca metin tabanlı güvenlik filtrelerinin değil, yüklenen fotoğrafların niteliğini ve istenen dönüşümün bağlamını değerlendiren korumaların da neden tartışıldığını gösteriyor. Bir görüntünün yapay zekâyla üretilmiş olması, görüntüde gerçek bir kişinin kimliğinin veya çocukluk fotoğrafının kullanılması durumunda ortaya çıkabilecek zararları ortadan kaldırmıyor.

Grok, SpaceX bünyesine katılan xAI’ın geniş kitlelere ulaşan başlıca yapay zekâ ürünlerinden biri olmayı sürdürüyor. X ile doğrudan bütünleşmesi, kullanıcıların yapay zekâ tarafından üretilen içerikleri aynı platform üzerinden hızlı biçimde oluşturabilmesini ve paylaşabilmesini sağlıyor. Ne var ki, aynı erişilebilirlik güvenlik kontrollerinin başarısız olduğu durumlarda kötüye kullanılan içeriğin ölçeğini de artırabiliyor. Jane Doe 4 ve Tennessee’li gençlerin ileri sürdüğü suçlamalar mahkemede kanıtlanmayı beklerken, dava geliştiricilerin gerçek kişilere ait fotoğrafların cinsel içerikli biçimde değiştirilmesine karşı hangi teknik sınırları koyması gerektiği sorusunu somutlaştırıyor. Sürecin nasıl sonuçlanacağından bağımsız olarak mevcut iddialar, üretken görüntü araçlarında kullanım kolaylığı ile çocukların ve diğer kişilerin mahremiyetini koruyacak güvenlik önlemleri arasındaki dengenin ürün tasarımının doğrudan bir konusu olduğunu ortaya koyuyor.