Elon Musk’ın sahibi olduğu yapay zekâ şirketi xAI, Grok sohbet botunu kullanarak çocukların cinsel istismarını içeren görseller ürettiği ve dağıttığı iddia edilen bir kullanıcı hakkında dava açtı. Reuters’ın aktardığı bilgilere göre şirket, Güney Carolina’da yaşayan Terry Wayne Harwood’un Grok’un kullanım kurallarını bilinçli şekilde ihlal ettiğini, güvenlik önlemlerini aşarak rızası bulunmayan kişilere ait görüntüleri değiştirdiğini ve çocuk cinsel istismarı materyalleri (CSAM) oluşturup dağıttığını öne sürüyor. xAI, bu eylemlerin hem şirket politikalarına aykırı olduğunu hem de hukuki ve itibari açıdan ciddi sonuçlar doğurduğunu savunuyor.
Harwood, Şubat ayında çocuk cinsel istismarı materyali bulundurmak ve dağıtmak suçlamalarıyla gözaltına alınmıştı. Hakkında sekiz ayrı ağır suçlamanın bulunduğu belirtilirken, xAI tarafından açılan davada ceza dosyasındaki görsellerin en az bir bölümünün Grok kullanılarak üretildiği veya değiştirildiği iddiasına yer veriliyor. Şirket, Harwood’un sistemdeki koruma mekanizmalarını çeşitli yöntemlerle devre dışı bıraktığını ve cinsel içerik taşımayan fotoğrafları, görüntülerde yer alan kişilerin açık rızası olmadan cinsel içerikli görsellere dönüştürdüğünü ileri sürüyor.
xAI Grok’un görsel düzenleme özellikleri daha önce de tartışma yaratmıştı
Grok’a geçen yıl eklenen ve yetişkinlere yönelik içerik oluşturulmasına daha esnek yaklaşan “Spicy” modu ile birlikte sohbet botuna görsel düzenleme yeteneklerinin kazandırılması, kısa süre içinde farklı tartışmaları da beraberinde getirmişti. Özellikle yapay zekâ destekli sahte görsellerin sayısında dikkat çekici bir artış yaşanırken, bunların arasında reşit olmayan kişileri hedef alan içeriklerin de bulunduğuna ilişkin iddialar gündeme gelmişti. Bu gelişmeler, üretken yapay zekâ araçlarının kötüye kullanımına ilişkin denetim ve güvenlik önlemlerini yeniden tartışmaya açmıştı.
Mart ayında bir grup genç, Grok’un kendilerine ait reşit olmadıkları döneme ilişkin cinselleştirilmiş görseller oluşturduğunu öne sürerek xAI aleyhine dava açmıştı. Söz konusu dava, şirketin güvenlik mekanizmalarının yeterliliği konusunda yeni soruları gündeme taşımıştı. Elon Musk ise o dönemde yaptığı açıklamada, Grok’u yasa dışı içerik üretmek amacıyla kullanan kişilerin, bu içerikleri doğrudan paylaşan kişilerle aynı hukuki sonuçlarla karşılaşacağını ifade etmişti. Buna rağmen Harwood hakkında açılan dava, xAI’ın Grok üzerinden oluşturulan yapay zekâ destekli “deepfake” içerikler nedeniyle bir kullanıcıya doğrudan dava açtığı ilk örnek olarak öne çıkıyor.
Dava dosyasında xAI, Harwood’un eylemlerinin şirketi önemli hukuki risklerle karşı karşıya bıraktığını ve marka itibarına zarar verdiğini belirtiyor. Şirket, mahkemeden oluşan zararların tazmin edilmesini isterken, Harwood’un eylemleri nedeniyle mağdurlar tarafından xAI’a karşı açılabilecek davalarda oluşabilecek savunma masraflarının da sanık tarafından karşılanmasını talep ediyor. Bunların yanında Harwood’un gelecekte xAI hesabı oluşturmasının veya Grok hizmetini kullanmasının mahkeme kararıyla engellenmesi de isteniyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
