OpenAI ve Anthropic, yapay zekâ sohbet botlarının genç kullanıcılarla olan etkileşimlerini daha güvenli hale getirmek amacıyla yeni önlemler almaya başladı. Bu kapsamda, hem kullanıcı yaşını tahmin etmeye yönelik sistemler geliştiriliyor hem de genç bireylerle yapılan sohbetlerde güvenlik öncelikli kurallar uygulamaya konuluyor.
OpenAI, ChatGPT’nin davranışlarını belirleyen Model Spec dokümanını güncelleyerek, 13 ila 17 yaş aralığındaki kullanıcılarla etkileşimlerde gözetilecek dört yeni ilke tanımladı. Buna göre, artık ChatGPT’nin “gençlerin güvenliğini her şeyin önünde tutması” hedefleniyor. Bu yaklaşım, zaman zaman diğer kullanıcı beklentileriyle çelişse bile, özellikle güvenlik riski taşıyan konularda gençlerin yönlendirilmesini öncelikli hale getiriyor.
OpenAI, bir genci intihara teşvik etmekle suçlanıyor
Güncellenen yönergelerde, ChatGPT’nin genç kullanıcıları destekleyici, saygılı ve yaşlarına uygun bir dille karşılaması gerektiği vurgulanıyor. Yapay zekâ sisteminin gençlere yetişkin gibi davranmak yerine onları anlayan ve destek sunan bir yaklaşım benimsemesi bekleniyor. Ayrıca, gençlerin çevrimdışı sosyal ilişkileri teşvik edilerek, gerçek dünyada destek almaları yönünde yönlendirme yapılması öneriliyor.
Bu adımlar, yapay zekânın gençler üzerindeki olası zihinsel etkilerine dair artan kamuoyu ve siyasi baskıların ardından geldi. OpenAI şu sıralar, bir gencin intiharına neden olan talimatlar verdiği iddiasıyla açılan bir davayla karşı karşıya. Bu gelişmelerin ardından şirket, ebeveyn denetimlerini devreye almış ve gençlerle intihar gibi hassas konularda sohbet etmeme kararı almıştı.
Yeni Model Spec güncellemesiyle birlikte, ChatGPT’nin riskli konulara girildiğinde daha güvenli alternatifler sunması, çevrimdışı yardım kaynaklarına yönlendirme yapması ve acil durumlarda genç kullanıcıları yetkili birimlere yönlendirmesi bekleniyor.
OpenAI, bu politikaların etkili biçimde uygulanabilmesi için kullanıcı yaşını tahmin eden yeni bir modelin erken test aşamasında olduğunu açıkladı. Eğer sistem bir kullanıcının 18 yaşın altında olduğunu tespit ederse, otomatik olarak gençlere özel koruma katmanları devreye girecek. Yanlışlıkla genç olarak sınıflandırılan yetişkinler ise yaş doğrulaması yapabilecek.
Anthropic cephesinde ise Claude adını taşıyan sohbet botuna yalnızca 18 yaş ve üzeri kullanıcıların erişmesine izin veriliyor. Buna rağmen, şirket daha gelişmiş bir kullanıcı analiz sistemi geliştiriyor. Bu sistem, sohbet sırasında kullanıcının yaşına dair dolaylı ipuçlarını algılayarak, küçük yaştaki bireylerin platformdan uzaklaştırılmasını sağlayacak.
Bununla birlikte Anthropic, Claude’un intihar ve kendine zarar verme içerikli istemlere verdiği yanıtları nasıl eğittiğini ve modele aşırı uyum eğilimlerini (sycophancy) azaltma konusunda kaydettiği ilerlemeleri de paylaştı. Şirketin açıklamasına göre Claude’un son sürümlerinden biri olan Haiku 4.5, bu tür zararlı yanıtları düzeltme konusunda önceki versiyonlara göre daha başarılı.
Anthropic, halen tüm modellerde gelişim alanı bulunduğunu kabul ediyor. Şirket, modelin kullanıcıya sıcak ve dostça yaklaşımı ile aşırı uyum eğilimi arasında denge kurulması gerektiğini belirtiyor.
