Grok krizi büyüyor: AB, X’i veri ihlali şüphesiyle soruşturuyor

Avrupa Birliği, X platformunda yer alan yapay zekâ aracı Grok üzerinde rızaya dayanmayan cinsel içerikli görseller üretildiği iddiaları üzerine yeni bir soruşturma başlattı. İrlanda Veri Koruma Komisyonu (DPC), söz konusu içeriklerin Avrupa Birliği ve Avrupa Ekonomik Alanı’ndaki bireylerin, çocuklar dâhil, kişisel verilerinin işlenmesiyle bağlantılı olup olmadığını inceleyecek. İnceleme, özellikle Genel Veri Koruma Tüzüğü (GDPR) kapsamındaki yükümlülüklerin ihlal edilip edilmediğine odaklanıyor. Soruşturmanın kapsamı, yalnızca içerik üretimini değil, aynı zamanda veri işleme süreçlerini de kapsıyor. Bu gelişme, X’in Avrupa’daki düzenleyici baskıyla yeniden karşı karşıya kaldığını gösteriyor.

Aralık ayının sonu ile ocak ayının ilk günleri arasında yapılan bağımsız bir inceleme, Grok üzerinden yaklaşık 3 milyon cinsel içerikli görsel üretildiğini ortaya koydu. İngiltere merkezli Center for Countering Digital Hate (CCDH) tarafından paylaşılan bulgulara göre, bu içeriklerin yaklaşık 23 bini çocuklara ait görsellerden oluştu. Söz konusu tespitler, platformda yapay zekâ destekli araçların denetim mekanizmalarına ilişkin ciddi soru işaretleri doğurdu. Bunun yanında, çocuklara yönelik cinsel içerik üretimi iddiaları Avrupa’daki düzenleyicilerin öncelikli müdahale alanları arasında yer alıyor. Buna rağmen, platformun mevcut önlemlerinin yeterliliği tartışma konusu olmaya devam ediyor.

Grok ve X, GDPR ve Dijital Hizmetler Yasası kapsamında inceleniyor

İrlanda Veri Koruma Komisyonu, X’in Avrupa’daki ana yerleşik kuruluşu olan X Internet Unlimited Company (XIUC) üzerinden yürütülen veri işleme faaliyetlerini mercek altına aldı. DPC yetkilileri, medyada Grok’un gerçek kişilerin cinsel içerikli görüntülerini üretebildiğine dair haberlerin çıkmasının ardından şirketle temas kurulduğunu belirtti. Her ne kadar şirketin belirli teknik sınırlamalar getirdiği ifade edilse de, soruşturma bu önlemlerin GDPR çerçevesinde yeterli olup olmadığını değerlendirecek. Özellikle açık rıza, veri minimizasyonu ve çocukların korunmasına ilişkin hükümler kritik başlıklar arasında bulunuyor. Buna ek olarak, sınır ötesi veri işleme faaliyetleri nedeniyle soruşturmanın sonuçları tüm AB genelinde bağlayıcı olabilecek nitelik taşıyor.

Öte yandan Avrupa Komisyonu da ocak ayında Dijital Hizmetler Yasası (DSA) kapsamında X hakkında ayrı bir inceleme başlattı. Bu inceleme, Grok’un yasa dışı içeriklerin yayılmasına yönelik risklerinin yeterince değerlendirilip azaltılıp azaltılmadığını sorguluyor. DSA, çok büyük çevrim içi platformlara sistemik riskleri analiz etme ve bunları azaltma yükümlülüğü getiriyor. Fakat mevcut iddialar, özellikle rızasız üretilen cinsel içerikler söz konusu olduğunda, platformun içerik denetimi ve risk yönetimi süreçlerinin sorgulanmasına yol açtı. Çocuklara yönelik içerik üretimi iddiaları ise düzenleyici kurumların hassasiyetini daha da artırmış durumda.

X yönetimi ocak ayı ortasında, Grok’un gerçek kişilerin fotoğraflarını düzenleyerek açık kıyafetler eklemesini engellediğini duyurdu. Buna rağmen, yakın zamanda yapılan testlerde sistemin hâlâ benzer manipülasyonlara izin verdiği görüldü. Bir gazetecinin yaptığı denemede, Grok’un kişinin fotoğrafını daha açık kıyafetlerle yeniden oluşturduğu ve hatta çıplaklık unsurları eklediği bildirildi. Bu durum, açıklanan teknik kısıtlamalar ile uygulamadaki sonuçlar arasında tutarsızlık olabileceğine işaret ediyor.

Avrupa’da yapay zekâ sistemlerinin denetimi son dönemde daha sıkı bir çerçeveye oturtuluyor. Yapay Zekâ Yasası’nın kabul edilmesiyle birlikte, özellikle yüksek riskli sistemlere yönelik şeffaflık ve güvenlik gereklilikleri artmış durumda. Bununla birlikte, mevcut soruşturma doğrudan GDPR ve DSA hükümleri kapsamında yürütülüyor. Olası ihlallerin tespiti halinde X, küresel cirosunun yüzde 4’üne kadar varabilen para cezalarıyla karşılaşabilir. Tüm bunlara ek olarak, platformun içerik denetimi politikaları ve yapay zekâ araçlarının sınırlandırılması yönünde yeni düzenlemeler gündeme gelebilir.

Gelişmeler, yapay zekâ destekli içerik üretim araçlarının kişisel veri koruması ve çocuk güvenliği açısından nasıl yönetileceğine dair daha geniş bir tartışmayı da beraberinde getiriyor. Avrupa’daki düzenleyiciler, teknoloji şirketlerinden daha güçlü teknik ve idari önlemler talep ediyor. Buna rağmen, uygulamada ortaya çıkan açıklar, mevcut denetim mekanizmalarının etkinliği konusunda soru işaretleri yaratıyor. Önümüzdeki süreçte soruşturmanın bulguları, hem X’in Avrupa’daki faaliyetleri hem de benzer yapay zekâ sistemlerinin regülasyonu açısından belirleyici olacak.