Google’ın mayıs ayında duyurduğu yapay zekâ video üretim aracı Veo 3 ile üretildiği düşünülen videolar, TikTok üzerinde milyonlarca izlenmeye ulaştı. Medya gözlem kuruluşu Media Matters tarafından hazırlanan rapor, bu içeriklerin büyük bir bölümünün ırkçı stereotiplerle dolu olduğunu ortaya koydu. Özellikle siyahi bireyleri hedef alan bu videoların bazılarında 14 milyonu aşan izlenme sayıları tespit edildi. Tüm bu içeriklerin ortak noktası, videolarda yer alan “Veo” filigranı ve kullanılan etiketlerin Google’ın aracına işaret etmesi oldu.
Google, Veo 3’ü tanıtırken zararlı içerikleri engelleyen filtreleme sistemlerine sahip olduğunu belirtmişti. Ancak bu videolar, sistemin içerik denetiminde aksaklıklar olabileceğini gözler önüne serdi. TikTok ise topluluk kurallarında nefret söylemine ve ayrımcılığa kesinlikle yer olmadığını söylüyor. Buna rağmen bu tür içeriklerin milyonlara ulaşabilmesi, platformun moderasyon mekanizmalarının etkinliği konusunda yeni sorular doğurdu.
TikTok nefret söylemi barındıran içerikleri hızla kaldırıyoruz
Media Matters tarafından tespit edilen videoların süresi genellikle sekiz saniye ile sınırlıydı. Bu durum da Veo 3’ün teknik sınırlarıyla örtüşüyor, çünkü Google’ın aracı şu an için yalnızca sekiz saniyelik video üretimine izin veriyor. Bazı içerikler ise birden fazla sekiz saniyelik klibin arka arkaya eklenmesiyle oluşturulmuş. Bu teknik detaylar, yapım sürecinde manuel bir editöryal müdahale yapılmadığını ve üretimin doğrudan AI aracılığıyla gerçekleştiğini düşündürüyor.
TikTok yetkilileri, nefret söylemi içeren içeriklerin hızla kaldırıldığını ve bu içeriklere sahip birçok hesabın daha rapor yayımlanmadan önce platformdan kaldırıldığını ifade etti. TikTok adına açıklamada bulunan Ariane de Selliers, kuralların sıkı şekilde uygulandığını söyledi. Ne var ki bu açıklama, algoritmaların zararlı içerikleri yeterince hızlı tespit edip edemediği sorusunu ortadan kaldırmıyor. Çünkü videoların bu kadar büyük bir izlenmeye ulaşması, içeriğin sistemsel olarak gözden kaçtığını ortaya koyuyor.
Media Matters’ın incelediği içeriklerin yalnızca TikTok ile sınırlı kalmadığı, YouTube ve Instagram gibi diğer sosyal medya platformlarında da benzer videolara rastlandığı bildirildi. Wired tarafından yapılan ayrı bir incelemede, benzer ırkçı içeriklerin Instagram’da da yaygın şekilde yer aldığı tespit edildi. Üstelik yalnızca siyahi bireyler değil, Yahudi karşıtı içerikler ile göçmen ve Asyalı bireyleri hedef alan videolar da örnekler arasında bulunuyor. Bu durum, yapay zekâ ile üretilen içeriklerin etki alanının çok daha geniş olduğunu gösteriyor.
YouTube’da yayımlanan benzer videoların TikTok’takilere kıyasla daha az görüntülenmeye sahip olduğu görülüyor. Buna rağmen içeriklerin çoklu platformlarda bulunması, denetim süreçlerinin bütünsel olarak değerlendirilmesini gerektiriyor. Her ne kadar platformlar nefret söylemine karşı durduklarını beyan etseler de bu tür içeriklerin yayılma hızı, mevcut filtreleme mekanizmalarının zayıflığını gözler önüne seriyor. Bu bağlamda yapay zekâ araçlarının denetlenme biçimi de tekrar tartışmaya açılmış durumda.
Veo 3, kullanıcıların yalnızca yazılı komutlarla video ve ses üretmesine olanak tanıyor. Bu tür üretim biçimi kolaylık sağlasa da, kötü niyetli kullanımların da önünü açabiliyor. Üstelik içerik üretimi sürecinde herhangi bir görsel veya etik filtrelemenin eksik olması, ortaya çıkan videoların zararlı içerikler taşımasına zemin hazırlayabiliyor. Platformlar ise bu içeriği sonradan fark ederek müdahale etmek zorunda kalıyor.
Tüm bu gelişmeler, yalnızca teknoloji şirketlerinin sorumluluğunu değil, aynı zamanda toplumsal bilinç düzeyini de sorgulama gerekliliğini doğuruyor. Çünkü yapay zekâ ile üretilen içerikler, toplumsal algıyı şekillendirme gücüne sahip. Özellikle genç kullanıcı kitlesine sahip olan TikTok gibi platformlarda, bu tür içeriklerin yaygınlaşması ciddi sonuçlar doğurabiliyor. Bu nedenle hem üretim hem de yayın süreçlerinin yeniden gözden geçirilmesi gerektiği açıkça görülüyor.
Her ne kadar Google, zararlı içerik taleplerini engelleyecek önlemler aldığını belirtse de, bu içeriklerin platformlara sızması, sistemin yeterince güçlü olmadığını gösteriyor. Benzer şekilde TikTok’un da topluluk kurallarını uygulamakta geç kaldığı anlaşılıyor. İçeriklerin bu denli yüksek erişim alabilmesi, yapay zekâ destekli üretimin denetimsiz bırakıldığında nasıl bir risk taşıdığını açık şekilde ortaya koyuyor. Bu nedenle sosyal medya şirketleri ile teknoloji üreticileri arasındaki iş birliğinin daha sıkı hâle getirilmesi gerektiği ortada.
