TikTok, e-ticaret özelliklerini genişletme hedefiyle yeni bir yapay zekâ sistemi test ediyor. Bu sistem, videolarda görülen kıyafet ya da nesneleri tanıyıp benzer ürünleri TikTok Shop üzerinden öne çıkarıyor. İlk bakışta kullanıcı deneyimini çeşitlendirmeyi amaçlayan bu yöntem, uygulandığı içerik türleri nedeniyle eleştiri aldı. Özellikle Gazze’den gelen videolara ürün önerisi eklenmesi, toplumsal hassasiyetler açısından ciddi tartışmalara yol açtı.
The Verge’ün aktardığına göre, Gazze’de enkaz arasında ailesini arayan bir kadının videosunda otomatik olarak benzer elbiseler listelendi. Görüntünün ticari bir vitrin gibi sunulması izleyicilerin tepkisini çekti. Ne var ki sistem, içeriklerin dramatik bağlamını gözetmeden çalışıyor. Bu nedenle kullanıcıların empati kurmaya çalıştığı sahneler bile alışverişe yönlendiren bir pencereden ibaret hale geliyor. Bunun yanında, markaların istemeden bu görüntülerle ilişkilendirilmesi de büyük bir risk doğuruyor.
TikTok algoritması bağlamı göz ardı ederek içerikleri vitrine dönüştürüyor
Yeni özellik, kullanıcıların videoyu durdurduğu anda devreye giriyor. Ekranda beliren “Benzerini Bul” seçeneği, kıyafet ve aksesuar önerilerini doğrudan sıralıyor. Sistem şimdilik sınırlı sayıda kullanıcıyla test ediliyor ve kademeli olarak yaygınlaştırılmak isteniyor. Buna rağmen, özelliğin içerik türlerine dair hiçbir sınır koymaması rahatsızlık yaratıyor. Çünkü hassas sahneler ile alışveriş öğeleri yan yana geldiğinde etik sorunların görünürlüğü artıyor.
TikTok, son dönemde Shop entegrasyonunu ABD ve Avrupa’da güçlendirmeye çalışıyor. Canlı yayınlar üzerinden ürün satışı da bu yöndeki girişimlerden biri olmuştu. Şimdi ise yapay zekâ desteğiyle her videoya potansiyel bir alışveriş kapısı ekleniyor. Fakat içeriklerin toplumsal boyut taşıdığı sahnelerde sistemin eksiklikleri daha belirgin görünüyor. Bu durum, platformun sorumluluk bilincine dair yeni tartışmaların önünü açıyor.
Uzmanlara göre, böyle bir sistem izleyiciyle içerik arasında ciddi bir kopukluk yaratıyor. Çünkü bir yıkım görüntüsünü izlerken aynı anda alışverişe yönlendirilmek, duyarsızlık olarak algılanıyor. Bunun yanı sıra, markaların istemeden bu tür içeriklerle eşleştirilmesi güven kaybına yol açabilir. Her ne kadar TikTok henüz açıklama yapmasa da kamuoyu baskısı artarsa şirket yeni sınırlamalar getirmek zorunda kalabilir. Tüm bunların yanında kullanıcıların deneyimi de bu süreçte olumsuz yönde şekillenebilir.
Özelliğin hangi içeriklerde aktif edileceği hâlâ belirsiz. Gazze’deki örnek ise bu belirsizliğin tehlikeli sonuçlarını gözler önüne seriyor. Kullanıcıların deneyimi, ticari önerilerle birleştiğinde güven duygusu zedeleniyor. Bunun yanı sıra, içerik üreticiler de paylaşımlarının böyle bağlam dışı yorumlanmasından endişe ediyor. Dolayısıyla sistemin denetim mekanizmaları daha güçlü hâle getirilmek zorunda kalabilir.
Sosyal medya şirketleri içerik denetimi konusunda uzun süredir eleştiriliyor. TikTok’un bu yeni denemesi ise bu eleştirileri daha da artırıyor. Çünkü hassas sahnelerle alışveriş öğelerini aynı ekrana getirmek kullanıcıların güvenini sarsıyor. Buna rağmen, algoritmaların geliştirilmesi sırasında etik konuların ikinci planda bırakıldığı görülüyor. Her şeye rağmen şirketin bu yönde düzenlemeler yapmak zorunda kalması bekleniyor.
Bazı uzmanlar, sistemi tamamen kapatmak yerine filtrelerle sınırlamanın daha mantıklı olacağını belirtiyor. Özellikle savaş, afet veya toplumsal olaylara dair içeriklerde ticari önerilerin otomatik olarak engellenmesi gerektiği ifade ediliyor. Aksi durumda, hem etik hem de ticari krizlerin yaşanması olası hale geliyor. Buna ek olarak, kullanıcıların platforma duyduğu güvenin azalması kaçınılmaz görünüyor. Öte yandan, TikTok’un bu eleştiriler karşısında nasıl bir yol çizeceği hâlâ belirsiz.
Gazze’deki görüntüler üzerinden başlayan tartışmalar, gelecekte farklı coğrafyalara da yayılabilir. Çünkü sistem daha geniş kullanıcı gruplarına ulaştığında benzer sorunların yaşanma ihtimali artacak. Teknolojinin bağlam gözetmemesi, kullanıcı deneyimini sürekli risk altına sokabilir. Tüm bunların yanı sıra, izleyicilerin sosyal medyadaki etkileşim biçimleri de değişebilir. Fakat bu değişimin hangi yönde olacağı henüz netlik kazanmadı.
