X’teki yapay zekâ içerikleri AB’yi alarma geçirdi

Avrupa Birliği, Elon Musk’a ait sosyal medya platformu X ile bu platformda kullanılan yapay zekâ aracı Grok hakkında kapsamlı bir soruşturma başlattı. Avrupa Komisyonu tarafından yapılan açıklamada, özellikle yapay zekâ ile üretilmiş cinsel içerikli deepfake görsellerin yayılmasının yeterince engellenip engellenmediğinin mercek altına alındığı belirtildi. Bu içerikler arasında çocukların cinsel istismarını içeren materyallerin de bulunabileceğine dikkat çekildi. Komisyon, söz konusu durumun Avrupa Birliği vatandaşları açısından ciddi riskler doğurduğunu vurguladı. Soruşturmanın, Dijital Hizmetler Yasası kapsamında yeni yaptırımların önünü açabileceği ifade edildi.

Avrupa Komisyonu’nun yürütmeden sorumlu başkan yardımcılarından Henna Virkkunen, yaptığı değerlendirmede, kadınlar ve çocuklara yönelik cinsel deepfake içeriklerin kabul edilemez bir ihlal niteliği taşıdığını dile getirdi. Virkkunen, bu inceleme ile birlikte X’in yasal yükümlülüklerini yerine getirip getirmediğinin netlik kazanacağını belirtti. Bunun yanında, platformun ticari çıkarları uğruna temel hakların göz ardı edilip edilmediğinin de araştırılacağı aktarıldı. Dijital Hizmetler Yasası, büyük çevrim içi platformlara yasa dışı içeriklerin yayılmasını önleme konusunda açık sorumluluklar yüklüyor. Komisyon, bu yükümlülüklerin ihlal edilmesi hâlinde ağır para cezaları uygulanabileceğini daha önce birçok kez hatırlatmıştı.

X, Dijital Hizmetler Yasası ile daha geniş ölçekte denetleniyor

Avrupa Birliği, Grok’un X platformuna entegre edilmesi sonrasında ortaya çıkan risklerin yeterince değerlendirilip değerlendirilmediğini de inceleme kapsamına aldı. Yapay zekâ destekli araçların, manipüle edilmiş cinsel içeriklerin üretilmesini ve yayılmasını kolaylaştırabildiği uzun süredir tartışılıyor. Komisyon, bu risklerin pratikte gerçekleştiğine dair güçlü emareler bulunduğunu ve Avrupa’daki kullanıcıların ciddi zararlara maruz kalmış olabileceğini açıkladı. Buna rağmen, X’in bu süreçte hangi önleyici mekanizmaları devreye aldığı konusunda yeterli şeffaflık sağlanmadığı görüşü öne çıktı. Tüm bunlara ek olarak, Komisyon 2023 yılında başlatılan ve X’in öneri algoritmalarını kapsayan mevcut soruşturmayı da genişletme kararı aldı.

ABD merkezli CBS News tarafından yapılan bir incelemede, Grok’un hâlen bazı kullanıcılar için kişilerin çıplak hâllerini üretmeye imkân tanıdığı öne sürüldü. Bu durum, X yönetiminin daha önce bu tür yeteneklerin kaldırıldığı yönündeki açıklamalarıyla çelişiyor. Her ne kadar şirket bu özelliklerin hem ücretsiz hem de ücretli kullanıcılardan geri çekildiğini savunmuş olsa da, bulgular uygulamada farklı bir tabloya işaret ediyor. Bu çelişki, Avrupa Komisyonu’nun soruşturmayı derinleştirmesinde etkili faktörlerden biri olarak görülüyor.

Soruşturmanın zamanlaması, Avrupa Birliği ile ABD merkezli teknoloji şirketleri arasındaki gerilimin arttığı bir döneme denk geliyor. Daha önce Dijital Hizmetler Yasası’nı ihlal ettiği gerekçesiyle X’e 120 milyon avro tutarında para cezası kesilmişti. Bu cezanın ardından Elon Musk, Avrupa Birliği’ne yönelik sert ifadeler kullanmış ve kurumu sosyal medya üzerinden hedef almıştı. Buna rağmen, AB yetkilileri dijital ortamda kullanıcı güvenliğinin pazarlık konusu yapılamayacağını savunuyor.

X cephesinden gelen son açıklamada ise şirketin önceki tutumunun korunduğu görüldü. Platform sözcüsü, çocukların cinsel istismarı, rızaya dayanmayan çıplaklık ve istenmeyen cinsel içeriklere karşı sıfır tolerans politikası izlendiğini belirtti. Bununla birlikte, Avrupa Komisyonu’nun yürüteceği teknik ve hukuki değerlendirmelerin, X ve Grok’un bu iddiaları ne ölçüde desteklediğini ortaya koyması bekleniyor. Bu süreç, yapay zekâ temelli içerik üretim araçlarının Avrupa’daki geleceği açısından da belirleyici nitelik taşıyor.