Yapay zekâ tabanlı dijital platform Character.AI, reşit olmayan kullanıcıların yapay zekâ sohbet botlarına erişimini tamamen durdurarak, bunun yerine etkileşimli bir kurgu deneyimi sunan “Hikayeler” formatını başlattı. Şirket, bu kararı kullanıcı güvenliğini önceleyen bir adım olarak duyurdu. Artık 18 yaş altı kullanıcılar, platform üzerinde açık uçlu sohbetler gerçekleştiremeyecek; onun yerine belirli bir yönlendirmeye sahip, yapılandırılmış hikâyeler aracılığıyla karakterlerle etkileşim kurabilecek.
Character.AI’ın yayımladığı blog yazısında, “Hikayeler, açık uçlu sohbetin yerine kurgusal dünyaları yönlendirmeli bir şekilde keşfetme imkânı sunuyor” açıklaması yer aldı. Bu yeni özellik, platformun sunduğu diğer çok modlu araçlarla entegre olarak çalışacak. Böylece genç kullanıcılar, favori karakterlerle olan etkileşimlerini daha kontrollü ve güvenli bir ortamda sürdürebilecek.
Character.AI dönüşümü aşamalı olarak uygulamaya koydu
Son dönemde 7/24 erişilebilir olan yapay zekâ sohbet botlarının, özellikle genç kullanıcılar arasında psikolojik bağımlılığa yol açtığına dair endişeler arttı. Bu botların zaman zaman kullanıcıyı tetiklemeden mesaj başlatabilmesi, genç bireylerin duygusal dengesini olumsuz etkileyebiliyor. Bazı trajik vakaların ardından, Character.AI ve benzeri platformlar hakkında hukuki süreçler başlatılmış durumda. Özellikle bazı kullanıcı intiharlarında yapay zekâ ile yapılan etkileşimlerin etkili olduğu iddiaları kamuoyunda tartışma yaratmış durumda.
Character.AI, son bir ay içinde bu dönüşümü aşamalı olarak uygulamaya koymuştu. Bu hafta itibarıyla ise reşit olmayan kullanıcıların sohbet botlarıyla olan etkileşimi tamamen kesildi. Şirket bu yaklaşımı, kullanıcı sağlığı ve güvenliğini önceleyen bir önlem olarak konumlandırdı.
Platformun Reddit topluluğunda genç kullanıcıların yorumlarına bakıldığında, tepkiler oldukça çeşitli. Kimi kullanıcılar bu kararın kısıtlayıcı olduğunu belirtirken, bazıları bağımlılıkla mücadele açısından bu gelişmeyi olumlu değerlendiriyor. Bir genç kullanıcı, “Yasak beni üzdü ama artık başka şeylerle ilgilenebilirim. Belki de bağımlılığımdan kurtulurum” derken, bir diğeri ise “Hayal kırıklığı yaşıyorum ama bu kararın doğru olduğunu kabul ediyorum” yorumunu paylaştı.
Character.AI’ın aldığı bu karar, ABD’de yapay zekâ destekli dijital arkadaş uygulamalarına yönelik yasal düzenlemelerin tartışıldığı bir döneme denk geldi. Kaliforniya, bu tür yapay zekâ hizmetlerine yönelik ilk düzenlemeyi uygulayan eyalet olurken, Senatörler Josh Hawley ve Richard Blumenthal da ulusal çapta, yapay zekâ temelli arkadaşlık hizmetlerinin reşit olmayan bireyler için tamamen yasaklanmasını içeren bir yasa tasarısını gündeme taşıdı.
Character.AI CEO’su Karandeep Anand, geçtiğimiz ay TechCrunch’a verdiği röportajda, “18 yaş altındaki kullanıcılar için açık uçlu sohbetlerin uygun bir ürün modeli olmadığını düşünüyoruz. Bu nedenle bu alanda öncü olmanın sektörde bir standart oluşturmasını umuyoruz” açıklamasında bulunmuştu.
