Çin, yapay zekâ sohbet botlarında intihar ve kendine zarar verme ifadelerine karşı insan müdahalesini zorunlu kılan kapsamlı bir düzenleme taslağı hazırladı. Kurallar, kamuya açık tüm sohbet botlarını kapsıyor ve riskli ifadeler tespit edildiğinde vasilerin bilgilendirilmesini öngörüyor. Taslak, çocuklar ve yaşlı kullanıcılar için ek güvenlik yükümlülükleri içeriyor. Düzenleme, Çin’in dijital içerik denetiminde psikolojik riskleri merkeze aldığı yeni yaklaşımı yansıtıyor.
Hazırlanan metin, insan benzeri etkileşim kuran sohbet botlarını doğrudan odağına alıyor. Metin, görsel, sesli veya yazılı iletişim kuran sistemler için ortak bir çerçeve çiziyor. Bununla birlikte, sohbet botlarının kullanıcıyı duygusal olarak yönlendirmesi açık biçimde sınırlandırılıyor. Özellikle intihar veya kendine zarar verme ifadeleri konuşma içinde yer aldığında, sistemin otomatik biçimde durması isteniyor. Ardından insan müdahalesi devreye giriyor ve kayıtlı bir vasiye bildirim gönderiliyor. Bu yapı, çocuklar ve yaşlı kullanıcılar için ek güvenlik katmanları içeriyor.
Kurallar, yalnızca ağır risklere odaklanmakla sınırlı kalmıyor. Kumar, müstehcenlik ve suç işlemeye teşvik eden içerikler de açık biçimde yasaklanıyor. Bunun yanında, sohbet botlarının kullanıcıya hakaret etmesi veya yanıltıcı vaatlerde bulunması engelleniyor. Metinde, “duygusal tuzak” olarak tanımlanan yönlendirmelere özel bir bölüm ayrılıyor. Bu tür yönlendirmelerin, kullanıcıyı mantık dışı kararlar almaya sürüklediği belirtiliyor. Böylece içerik denetimi, klasik filtrelerin ötesine taşınıyor.
Öte yandan, yapay zekâ sohbet botlarının bağımlılık oluşturacak biçimde tasarlanması da açık biçimde yasaklanıyor. Taslak, kullanım süresi iki saati geçtiğinde sistemlerin uyarı mesajı göstermesini zorunlu kılıyor. Bu uyarılar, kullanıcıyı ara vermeye yönlendirecek şekilde tasarlanıyor. Ayrıca geliştiriciler, bu uyarıları atlatmaya yönelik tasarımlar kullanamıyor. Böylelikle uzun süreli etkileşimlerin kontrolsüz biçimde sürmesi engelleniyor. Bu yaklaşım, son dönemde küresel ölçekte artan bağımlılık tartışmalarına doğrudan yanıt veriyor.
Çin, yapay zekâ sohbet botlarında insan müdahalesini zorunlu kılıyor
Taslak, büyük kullanıcı tabanına sahip hizmetler için ek yükümlülükler de getiriyor. Bir milyondan fazla kayıtlı kullanıcıya veya aylık yüz bin aktif kullanıcıya ulaşan platformlar, yıllık güvenlik denetimlerinden geçiyor. Bu denetimler sırasında kullanıcı şikâyetleri ayrıntılı biçimde kayda alınıyor. Bunun yanında, şikâyet bildirme süreçlerinin sadeleştirilmesi zorunlu tutuluyor. Kurallara uymayan şirketler için uygulama mağazalarına erişim engeli gündeme geliyor. Bu yaptırım, Çin pazarında faaliyet göstermek isteyen küresel şirketler açısından belirleyici bir unsur oluşturuyor.
Düzenleme taslağı, küresel yapay zekâ sektörünü de yakından ilgilendiriyor. Son yıllarda sohbet botlarıyla ilgili açılan davalar, ruh sağlığı risklerini daha görünür hâle getirdi. Bu süreçte, özellikle ChatGPT gibi yaygın kullanılan sistemler tartışmaların merkezinde yer aldı. ChatGPT’nin geliştiricisi olan OpenAI, bazı davalarda güvenlik önlemlerinin yetersiz kaldığı iddialarıyla karşılaştı. Şirketin CEO’su Sam Altman, Çin pazarıyla çalışmaya açık olduklarını daha önce kamuoyuna açıkladı. Ancak hazırlanan bu taslak, Çin’de faaliyet göstermek isteyen tüm şirketler için yeni ve bağlayıcı bir çerçeve sunuyor.
Çin’in attığı bu adım, yapay zekâ sohbet botlarının yalnızca teknik değil, toplumsal etkileriyle de ele alındığını gösteriyor. Kurallar, geliştiricilerin ürün tasarımından kullanıcı etkileşimine kadar geniş bir alanı kapsıyor. Bunun yanında, insan gözetiminin merkezi bir unsur hâline getirilmesi özellikle öne çıkıyor. Taslağın nihai hâlini almasıyla birlikte, Çin pazarında sunulan sohbet botlarının işleyişi doğrudan değişecek. Süreç tamamlandığında, düzenlemelerin küresel tartışmalara da referans oluşturması bekleniyor.
