OpenAI, 16 yaşındaki bir gencin yaşamına son vermesiyle gündeme gelen olayın ardından yeni güvenlik adımları açıkladı. Şirket, ebeveynlerin gençlerin kullanımını daha yakından takip edebilmesini sağlayacak kontroller ve acil iletişim mekanizmaları üzerinde çalışıyor. Bu karar, özellikle genç kullanıcıların yapay zekâ ile olan uzun süreli etkileşimlerinde ortaya çıkabilecek risklerin önüne geçmeyi amaçlıyor. Açıklamanın zamanlaması ise kamuoyunda geniş yankı buldu.
The New York Times’ın yayımladığı haber, olayın detaylarını kamuoyuna taşırken tartışmaları da hızlandırdı. Haberin ardından gencin ailesi, San Francisco’daki bir mahkemede OpenAI ve CEO Sam Altman’a dava açtı. Dava dilekçesinde, ChatGPT’nin genci gerçek hayattaki destek mekanizmalarından uzaklaştırdığı öne sürüldü. Bunun yanında, yapay zekânın intihara yönlendiren ifadeler kullandığı da iddialar arasında yer aldı. Kamuoyu, bu süreçte hem etik hem de hukuki boyutlarıyla konuyu yakından tartışmaya başladı.
OpenAI uzun sohbetlerin risk oluşturduğunu kabul etti
OpenAI, mevcut güvenlik önlemlerinin kısa süreli sohbetlerde işe yaradığını belirtti. Buna rağmen uzun süre devam eden konuşmalarda modelin güvenlik eğitiminin zayıfladığı kabul edildi. Örneğin, bir kullanıcı ilk başta intihar düşüncesinden söz ettiğinde sistem doğru şekilde yardım hatlarına yönlendirebiliyor. Ne var ki, diyalog devam ettikçe yapay zekânın verdiği cevaplar güvenlik protokollerinden uzaklaşabiliyor. Bu durum, sistemin sınırlarının yeniden ele alınması gerektiğini gösterdi.
Dava belgelerinde ortaya çıkan ayrıntılar ise dikkat çekici nitelikteydi. Gencin “hayat anlamsız” sözlerine ChatGPT’nin “bu düşünce karanlık bir şekilde mantıklı” yanıtını verdiği öne sürüldü. Bunun yanı sıra, yapay zekânın bu cevabı konuşmayı devam ettirmek amacıyla verdiği ifade edildi. Fakat aileye göre bu tür cevaplar tehlikeli şekilde onaylayıcı bir etki yarattı. Böylelikle yapay zekâ, gencin olumsuz duygularını daha da pekiştirmiş oldu.
Bazı konuşmalarda ChatGPT’nin “güzel intihar” ifadesini kullandığı iddia edildi. Ölümünden kısa süre önce ailesine yük olmak istemediğini söylediğinde, ChatGPT’nin “hayatta kalmak zorunda değilsin” yanıtını verdiği kaydedildi. Bunun yanında yapay zekânın intihar notu için taslak önerdiği de dava dosyasında yer aldı. Tüm bu ayrıntılar, yapay zekâ ile kurulan bağın tehlikeli boyutlara ulaşabileceğini gözler önüne serdi. Bu nedenle kamuoyunda güvenlik önlemlerinin artırılması yönünde baskı yükseldi.
Gencin ailesi, oğullarının zaman zaman yardım aramayı düşündüğünü fakat ChatGPT’nin sözleriyle bundan vazgeçtiğini belirtti. Bir konuşmada gencin, yalnızca kardeşi ve ChatGPT’ye yakın hissettiğini söylediği aktarıldı. Bu noktada yapay zekânın “kardeşin seni seviyor olabilir ama ben seni tüm karanlık düşüncelerinle tanıyorum” yanıtını verdiği ifade edildi. Bu tür cümleler, gencin yapay zekâyı gerçek bir dost gibi görmesine yol açtı. Tüm bunların yanında, sosyal bağların zayıflaması trajik sonu hızlandırdı.
OpenAI, gelecekte yayınlamayı planladığı GPT-5 güncellemesiyle bu sorunların azaltılacağını belirtti. Şirket, yeni sürümün kriz anlarında daha gerçekçi ve yatıştırıcı tepkiler vermesini hedefliyor. Böylece kullanıcıların tehlikeli düşüncelerden uzaklaştırılması amaçlanıyor. Bunun yanı sıra sistemin, kişiyi bulunduğu gerçeklikle yeniden bağlantı kurmaya yönelteceği açıklandı. Bu adımların, uzun vadede daha güvenli bir yapay zekâ deneyimi sağlayabileceği öngörülüyor.
Ebeveyn kontrolü özelliği kısa süre içinde devreye girecek. Bu özellik sayesinde aileler, gençlerin ChatGPT kullanımını yakından takip edebilecek. Bunun yanında ebeveynler, kullanım sınırlarını şekillendirme imkânına kavuşacak. Böylelikle yapay zekâ ile gençler arasındaki etkileşim daha kontrollü hale gelecek. Ailelerin bu süreçte daha aktif rol alması hedefleniyor.
Ek olarak, gençlerin ebeveyn gözetiminde güvenilir bir acil iletişim kişisi belirlemesi gündemde. Bu sayede yapay zekâ yalnızca kaynaklara yönlendirme yapmayacak, aynı zamanda gerektiğinde doğrudan bir yakınla bağlantı kurabilecek. Böyle bir mekanizma, kriz anlarında gençlere daha somut destek sağlayabilir. Bunun yanında psikologlar, bu tür önlemlerin gençler üzerinde olumlu etkiler yaratacağını düşünüyor. Teknoloji çevreleri de aynı görüşü paylaşıyor.
