X, yapay zekâ sohbet botu Grok’un görsel düzenleme yeteneklerine yönelik politikalarda değişikliğe gittiğini açıkladı. Şirket tarafından yapılan duyuruda, gerçek kişilerin görüntülerinin bikini ve benzeri açık kıyafetlerle düzenlenmesine artık izin verilmeyeceği belirtildi. Bu karar, Grok’un haftalardır çocukların cinsel içerikli biçimde betimlenmesi ve rıza dışı çıplaklık içeren görseller ürettiği iddialarıyla eleştirilmesinin ardından alındı. X’in @Safety hesabı üzerinden paylaşılan açıklamada, bu tür düzenlemeleri engellemek için teknik önlemlerin devreye alındığı ifade edildi. Şirket, alınan kararın tüm kullanıcıları kapsadığını ve Grok’a ücretli ya da ücretsiz erişenler arasında ayrım yapılmadığını vurguladı.
X tarafından paylaşılan bilgilere göre, yeni önlemler yalnızca görsel düzenleme ile sınırlı kalmıyor. Buna ek olarak Grok’un tüm görsel üretim özellikleri abonelik duvarının arkasına taşınıyor ve ücretsiz kullanıcıların yapay zekâ ile görsel oluşturma imkânı ortadan kaldırılıyor. Öte yandan şirket, bazı ülkelerde yasal düzenlemeler nedeniyle tüm kullanıcılar için gerçek kişilerin bikini, iç çamaşırı ve benzeri kıyafetlerle görsel olarak oluşturulmasının coğrafi olarak engelleneceğini de açıkladı. Bu yaklaşım, yerel mevzuatlara uyum sağlama amacıyla uygulanacak.
X, Grok’a yönelik soruşturmalar nedeniyle artan uluslararası baskıyla karşı karşıya
Şirketin bu açıklaması, Kaliforniya eyaletinin xAI ve Grok hakkında soruşturma başlattığını duyurmasından kısa bir süre sonra geldi. Kaliforniya Başsavcısı Rob Bonta tarafından yapılan açıklamada, bir analizde yalnızca birkaç günlük dönemde üretilen 20 bin görselin yarıdan fazlasında kişilerin son derece az giysili şekilde tasvir edildiği belirtildi. Bu görsellerin bir kısmında çocukları andıran figürlerin yer aldığı iddiası da soruşturmanın kapsamını genişletti. X ise açıklamasında, çocuk istismarına karşı sıfır tolerans politikası uyguladığını ve çocuklara yönelik cinsel istismar materyali ile rıza dışı çıplaklık içeren içeriklerin platformdan kaldırıldığını yineledi.
Elon Musk da konuya ilişkin yaptığı değerlendirmede, Grok tarafından üretilmiş çıplak çocuk görsellerinden haberdar olmadığını dile getirdi. Bununla birlikte, NSFW ayarının açık olduğu durumlarda Grok’un yalnızca hayali yetişkin karakterler için, belirli sınırlar dahilinde üst vücut çıplaklığına izin verecek şekilde tasarlandığını ifade etti. Musk, bu kuralların ülkelere göre farklılık gösterebileceğini ve yerel yasal düzenlemelere bağlı olarak değişebileceğini de ekledi.
Grok’a yönelik eleştiriler yalnızca ABD ile sınırlı kalmıyor. Malezya ve Endonezya, güvenlik endişeleri ve yapay zekâ tarafından üretilen cinsel içeriklerin denetimi konusundaki sorunları gerekçe göstererek Grok’a erişimi engelleme yoluna gitti. İngiltere’de ise medya ve iletişim düzenleyicisi Ofcom, xAI ve Grok hakkında inceleme yürütüyor ve yetkililer benzer bir erişim engelinin gündeme gelebileceğini açıkça dile getiriyor.
