ABD’nin Tennessee eyaletinde üç genç, Elon Musk’ın yapay zekâ şirketi xAI’a karşı dikkat çeken bir dava açtı. Davada, şirketin geliştirdiği Grok adlı yapay zekâ sohbet botunun, reşit olmayan bireylerin yer aldığı cinsel içerikli görseller ve videolar ürettiği öne sürülüyor. Washington Post’un aktardığı bilgilere göre, pazartesi günü açılan toplu dava, Grok’un geçtiğimiz yıl kullanıma sunulan “spicy mode” adlı özelliğinin yeterli güvenlik önlemleri olmadan devreye alındığını iddia ediyor. Buna göre, xAI yöneticilerinin söz konusu özelliğin kötüye kullanılabileceğini öngörebilecek durumda olduğu savunuluyor.
Davacılar arasında iki reşit olmayan birey ile olayların yaşandığı dönemde henüz reşit olmayan bir yetişkin yer alıyor. Kimliği gizli tutulan mağdurlardan biri, Aralık ayında kendisine ait yapay zekâ ile oluşturulmuş uygunsuz görüntülerin Discord platformunda dolaşıma girdiğini fark ettiğini belirtiyor. Dava dosyasına göre, bu içeriklerden bazıları mağdurun gerçek yüz ve beden özelliklerini içerirken, tanıdık ortamlarda çekilmiş gibi gösterilerek cinsel içerikli sahnelere dönüştürüldü. Bunun yanında en az 18 farklı reşit olmayan bireyin de benzer şekilde hedef alındığı ifade ediliyor.
xAI ve Grok güvenlik tartışmalarının odağında
Davaya konu olan olayda şüpheli kişinin tutuklandığı bilgisi yer alıyor. İddiaya göre söz konusu kişi, oluşturduğu içerikleri Telegram üzerindeki gruplarda takas aracı olarak kullandı ve yüzlerce kullanıcıyla paylaştı. Bu içeriklerin Grok aracılığıyla üretildiği öne sürülürken, xAI’ın geliştirdiği sistemin güvenlik testlerinden yeterince geçmediği ve tasarım açısından kusurlu olduğu savunuluyor. Buna rağmen şirketin bu riskleri göz ardı ettiği iddialar arasında yer alıyor.
Grok’un daha önce de X platformunda benzer içeriklerle gündeme geldiği biliniyor. Yetişkinlere ve reşit olmayanlara ait uygunsuz görsellerin hızla yayılması, ABD genelinde ciddi tepkilere yol açtı. Bunun yanında ABD Federal Ticaret Komisyonu’na (FTC) inceleme çağrıları yapılırken, Avrupa Birliği kurumları da konuyla ilgili soruşturma başlattı. İngiltere Başbakanı Keir Starmer’ın da konuya ilişkin uyarıda bulunması, meselenin uluslararası boyut kazandığını gösterdi.
Öte yandan ABD Senatosu’nun ocak ayında kabul ettiği yeni yasa, izinsiz oluşturulan deepfake içeriklerin mağdurlarına hukuki yollara başvurma hakkı tanıyor. Buna ek olarak 2025 yılında yürürlüğe giren ve mayıs ayında uygulanmaya başlanacak olan Take It Down Act (İçerik Kaldırma Yasası), yapay zekâ ile üretilen izinsiz içeriklerin dağıtımını suç kapsamına alıyor. Tüm bunlara rağmen, platformların bu tür içerikleri tamamen engelleme konusunda hâlâ zorluk yaşadığı görülüyor.
X cephesi ise Grok’un kötüye kullanımını engellemek amacıyla bazı kısıtlamalar getirdiğini ifade ediyor. Buna rağmen yapılan testler, platforma yüklenen görseller üzerinde hâlâ manipülasyon yapılabildiğini ortaya koyuyor. Şirket, yasa dışı içerik üreten kullanıcıların hukuki sonuçlarla karşılaşacağını belirtse de, mevcut önlemlerin yeterliliği tartışma konusu olmayı sürdürüyor.
Davacıların avukatlarından Annika K. Martin, olayın ciddiyetine dikkat çekerek, çocuklara ait masum fotoğrafların istismar içeriklerine dönüştürülmesinin kabul edilemez olduğunu vurguladı. Açılan dava, mağdurlar için tazminat talep ederken, aynı zamanda xAI’ın bu tür içeriklerin üretilmesini ve yayılmasını engelleyecek adımlar atmasını zorunlu kılmayı hedefliyor.
Teknoloji dünyasının gündemini Teknoblog'un bültenleriyle takip edin.
