xAI, Grok’un ürettiği müstehcen görseller nedeniyle yargı önünde

İngiltere İşçi Partisi milletvekili Jess Asato, xAI aleyhinde karşı dava açtı. Financial Times’ın aktardığı bilgilere göre, dava xAI’ın yapay zekâ sohbet botu Grok kullanılarak üretilen cinsel içerikli görseller ve videolarla ilgili. Söz konusu süreç, Birleşik Krallık’ta yapay zekâ şirketlerinin kullanıcıların araçlarıyla oluşturduğu içeriklerden ne ölçüde sorumlu tutulabileceğine dair ilk yüksek profilli hukuki sınamalardan biri olarak değerlendiriliyor.

İddialara göre, Grok kullanıcıları ocak ayında Asato’nun yapay zekâ tarafından oluşturulmuş çeşitli görsellerini üretmeye ve paylaşmaya başladı. Bu gelişme, Grok’un çocukların cinsel istismarına ilişkin yasa dışı içeriklerin oluşturulmasında kullanıldığı yönündeki haberlerin gündeme geldiği döneme denk geldi. Asato, bazı kullanıcıların Grok’a verdiği komutlarla kendisinin bikinili görüntülerinin üretildiğini, bunun yanında kloroform kullanılarak etkisiz hale getirildiğini ve cinsel saldırıya maruz bırakılmaya hazırlandığını gösteren açık içerikli bir videonun da oluşturulduğunu öne sürüyor. Daha sonra bu içeriklerin X platformunda yeniden paylaşıldığı, tartışıldığı ve benzer yeni görsellerin üretildiği belirtiliyor.

Asato’nun açtığı davada, xAI’ın özel bilgilerin kötüye kullanılması ve veri koruma alanındaki yasal düzenlemeleri ihlal ettiği iddia ediliyor. Dava dosyasına göre içerikleri doğrudan kullanıcılar üretmiş olsa da, şirketin yeterli koruma mekanizmalarını devreye almamış olması nedeniyle hukuki sorumluluğu bulunabileceği savunuluyor. Milletvekili, maddi tazminat talebinin yanı sıra xAI’ın İngiltere yasalarına uygun hareket etmesini sağlayacak mahkeme kararları da talep ediyor.

Haberleri Kaçırma!

• Teknoblog'u Google Arama'da tercihli kaynağın yap ve Top Stories'de bizi daha sık gör.

Asato, Financial Times’a yaptığı açıklamada, büyük teknoloji şirketlerinin gerekli güvenlik önlemlerini uygulamadan kadınlara ve çocuklara zarar vermesinin önüne geçilmesi gerektiğini söyledi. Açıklamasında bireylerin hakları ile teknoloji şirketlerinin gücü arasındaki dengenin yeniden kurulmasını amaçladığını ifade etti.

Grok’un içerik güvenliği uygulamaları tartışılmaya devam ediyor

xAI, Ocak ayında Grok’un cinsel içerikli görseller üretmesini engelleyen çeşitli sınırlamalar getirdiğini duyurmuştu. Buna rağmen bağımsız testler ve kullanıcı deneyimleri, söz konusu korumaların bazı durumlarda kolaylıkla aşılabildiğini ortaya koydu. Bu durum, özellikle rıza dışı oluşturulan deepfake içeriklerle ilgili eleştirilerin artmasına neden oldu.

Grok ve xAI son dönemde yalnızca Birleşik Krallık’ta değil, farklı bölgelerde de düzenleyici kurumların incelemeleriyle karşı karşıya bulunuyor. Avrupa Birliği, İngiltere ve ABD’nin Kaliforniya eyaletindeki bazı kurumların konuya ilişkin soruşturmalar yürüttüğü biliniyor. Bunun yanında xAI veya X’e karşı açılmış farklı davalar da bulunuyor. Baltimore kenti, bir grup genç kullanıcı ve Elon Musk’ın çocuklarından birinin annesi Ashley St. Clair tarafından açılan davalar bunlar arasında yer alıyor.

Tüm bunlara ek olarak, gelişmeler SpaceX’in hem xAI hem de X üzerindeki kontrolünü artırdığı ve gelecekteki finansal planlarının yakından izlendiği bir dönemde yaşanıyor. Açılan davaların veya düzenleyici soruşturmaların şirketlerin ticari faaliyetleri üzerindeki etkisini şimdiden ölçmek kolay görünmüyor. Bununla birlikte, yapay zekâ araçlarıyla üretilen rıza dışı içeriklerin hukuki sonuçları konusunda mahkemeler ve düzenleyici kurumlar tarafından verilecek kararların, sektör genelinde emsal oluşturabilecek nitelikte olduğu değerlendiriliyor. Özellikle üretken yapay zekâ sistemlerinin yaygınlaştığı bir dönemde, platformların güvenlik önlemleri ve sorumluluk sınırları önümüzdeki süreçte daha fazla tartışılacak konular arasında yer alacak.