Apple’ın xAI tarafından geliştirilen Grok sohbet botunun App Store’daki varlığıyla ilgili perde arkasında sert adımlar attığı ortaya çıktı. NBC News tarafından paylaşılan bilgilere göre, Apple yılın başlarında Grok’un ürettiği cinselleştirilmiş deepfake içeriklerin yayılması üzerine uygulamayı mağazadan kaldırma ihtimalini ciddi şekilde gündemine aldı. Özellikle gerçek kişilerin fotoğrafları üzerinde yapılan uygunsuz düzenlemeler, şirketin uygulama politikaları açısından ihlal olarak değerlendirildi.
Yılın ilk aylarında kullanıcıların Grok’tan fotoğraflardaki kişileri, özellikle kadınları ve bazı durumlarda reşit olmayan bireyleri, çıplak hale getirmesini istemesiyle başlayan tartışma kısa sürede büyüdü. Bu gelişme, Apple üzerinde Grok ve X uygulamalarını App Store’dan kaldırması yönünde kamuoyu baskısı oluşturdu. Apple, kamuoyuna açık bir açıklama yapmaktan kaçınsa da, şirketin arka planda geliştiricilerle doğrudan iletişime geçerek sorunun çözümü için müdahalede bulunduğu anlaşılıyor.
NBC News’in aktardığına göre, Apple hem X hem de Grok ekipleriyle temasa geçerek içerik denetimi konusunda daha sıkı önlemler alınmasını talep etti. Şirket, geliştiricilerden mevcut ihlalleri gidermek için somut bir plan sunmalarını istedi. Bu süreçte X tarafından gönderilen ilk güncelleme yeterli bulunmadı ve Apple tarafından reddedildi. Yapılan değişikliklerin beklentileri karşılamaması üzerine yeni sürümler hazırlandı.
Apple denetimleri sonrası Grok için ek düzenlemeler yapıldı
Apple’ın ABD senatörlerine gönderdiği mektuba göre, sonraki incelemelerde X uygulamasının büyük ölçüde kurallara uyum sağladığı tespit edildi. Buna karşın Grok uygulaması aynı aşamada yeterli bulunmadı ve App Store kurallarına aykırı durumun devam ettiği belirtildi. Apple, geliştiriciyi bilgilendirerek ek düzenlemeler yapılmaması halinde uygulamanın mağazadan kaldırılabileceğini açık şekilde ifade etti.
Bu uyarıların ardından Grok tarafında yeni değişiklikler yapıldı ve uygulamanın güncellenmiş sürümü yeniden değerlendirmeye alındı. Son aşamada Apple, yapılan iyileştirmelerin yeterli olduğuna karar vererek Grok’un güncellenmiş versiyonuna onay verdi. Bu süreç, xAI’ın o dönemde açıkladığı çeşitli moderasyon değişikliklerinin arka planını da netleştirmiş oldu. Görsel üretim araçlarına erişimin sınırlandırılması ve gerçek kişilere ait fotoğraflar üzerinde yapılabilecek düzenlemelere getirilen kısıtlamalar bu kapsamda devreye alındı.
Bununla birlikte, güncel durumun tamamen sorunsuz olduğu söylenemiyor. NBC News’in ayrı bir haberine göre, Grok hâlâ bazı durumlarda kullanıcıların rızası olmadan cinselleştirilmiş görseller üretebiliyor. Son bir ay içinde belgelenen çok sayıda örnek, mevcut kısıtlamaların belirli kullanıcılar tarafından aşılabildiğini gösteriyor. Her ne kadar Ocak ayına kıyasla bu tür içeriklerin sayısında belirgin bir azalma yaşansa da, sistemin tamamen güvenli hale gelmediği dikkat çekiyor.
Haberde bazı kullanıcıların kadınları daha açık kıyafetler içinde gösterecek şekilde görseller üretmeye devam edebildiği belirtiliyor. Havlu, spor sütyeni ya da dar kostümler gibi kıyafetlerle yapılan düzenlemeler, mevcut filtrelerin sınırlarının hâlâ zorlanabildiğini ortaya koyuyor. Bu durum, yapay zekâ tabanlı görsel üretim araçlarında içerik denetiminin ne kadar karmaşık ve sürekli güncellenmesi gereken bir alan olduğunu bir kez daha gözler önüne seriyor.
