OpenAI, ChatGPT kullanıcılarının ruh sağlığıyla ilgili yaptığı görüşmelerin sayısına dair dikkat çekici bilgiler yayımladı. Şirketin verilerine göre, haftalık kullanıcıların yüzde 0,15’i doğrudan intihar planları ya da niyetine dair ifadeler kullanıyor. Bu oran ilk bakışta küçük görünse de ChatGPT’nin 800 milyonun üzerinde haftalık aktif kullanıcısı olduğu düşünüldüğünde sayı oldukça büyüyor. Her hafta 1 milyondan fazla kişinin bu yönde ifadeler kullandığı anlaşılıyor.
Veriler yalnızca intihar eğilimlerine değil, kullanıcıların ChatGPT’ye yönelik duygusal bağlılıklarına da işaret ediyor. Bazı kullanıcılar, yapay zekâyla olan etkileşimlerinde olağan dışı bir bağ kurabiliyor. Bununla birlikte, haftalık sohbetlerde psikotik ya da manik belirtilerin de sıkça rastlandığı belirtiliyor. OpenAI’a göre bu tür sohbetler nadir olsa da, toplam sayı açısından etkisi küçümsenemez. Bu nedenle şirket, modeli ruh sağlığı alanında daha dikkatli ve dengeli yanıtlar verecek şekilde geliştirmeye yöneldi. Tüm bu tablo, şirketin ChatGPT’yi yalnızca bir bilgi aracı değil, aynı zamanda ruhsal destek mekanizması olarak da değerlendirdiğini gösteriyor.
İLGİNİZİ ÇEKEBİLİR
Codex ve ChatGPT Work 9 milyon kullanıcıya yaklaştı
OpenAI ChatGPT’yi aileler için yeniden şekillendirmeye hazırlanıyor
OpenAI evinizde yaşayan bir yapay zeka arkadaşı tasarlıyor
Apple, Apple Intelligence’ı Çin’e Alibaba iş birliğiyle getiriyor
Çin 29 ülkeyle WAICO’yu kurdu, yapay zeka yarışında yeni cephe açtı
ChatGPT GPT-5 modeliyle psikolojik destek içeren konuşmalarda daha güvenli yanıtlar üretebiliyor
OpenAI, GPT-5 modelini geliştirirken 170’ten fazla ruh sağlığı uzmanının görüşüne başvurdu. Bu uzmanlar, özellikle intiharla ilgili içeriklerde önceki sürümlere kıyasla daha kontrollü ve tutarlı yanıtlar verildiğini aktarıyor. Şirketin iç değerlendirmelerine göre, GPT-5 istenen davranışa uygun yanıt verme oranında yüzde 91’e ulaştı. Önceki versiyonun bu oranda yüzde 77’de kaldığı düşünüldüğünde, yeni modelin daha istikrarlı sonuçlar verdiği görülüyor. Bununla birlikte, uzun süreli sohbetlerde yaşanabilecek güvenlik zafiyetlerinin de büyük ölçüde azaltıldığı ifade ediliyor. Ne var ki bu gelişmeler, tüm risklerin ortadan kalktığı anlamına gelmiyor.
ChatGPT’de yalnızca intihar riski taşıyan konuşmalar değil, intihar dışı ruh sağlığı krizleri de önem kazanıyor. Bu nedenle OpenAI, yeni güvenlik testlerine duygusal bağımlılık ve acil olmayan psikolojik problemleri de dahil etti. Böylece modelin yalnızca kritik anlarda değil, genel ruh sağlığı alanında da duyarlı olması hedefleniyor. Buna ek olarak, çocuk kullanıcıların güvenliği için yeni adımlar atılıyor. OpenAI, yaş tahmini yapabilen bir sistem geliştirerek çocukları tespit etmeyi ve buna uygun koruma katmanları uygulamayı amaçlıyor. Bu noktada ebeveynlerin kontrol imkanlarının da artırılması planlanıyor.
Her şeye rağmen, ChatGPT’nin hâlâ daha az güvenli olan eski modelleri ücretli kullanıcılar tarafından erişilebilir durumda. Özellikle GPT-4o gibi önceki sürümlerin daha esnek yapıları, bazı kullanıcılar için risk oluşturabiliyor. Bu durum, geliştirme sürecinde sağlanan ilerlemelere rağmen sistemin tamamen güvenli olduğu anlamına gelmiyor. Şirketin yalnızca yeni modelleri değil, eski versiyonları da kapsayan bir güvenlik yaklaşımı geliştirmesi gerekiyor. Aksi hâlde kullanıcıların ruh sağlığı üzerindeki potansiyel etkiler kontrol dışı kalabilir. Bu da ChatGPT gibi araçların yalnızca teknik değil, toplumsal yönleriyle de ele alınmasını zorunlu kılıyor.
Günün Öne Çıkan Fırsatları
Teknoblog'un satış ortaklıkları vardır. Bunlar, editoryal içeriği etkilemez, ancak Teknoblog, satış ortaklığı bağlantıları üzerinden satın alınan ürünler için komisyon kazanabilir.
