OpenAI, yeni yapay zekâ modeli GPT-5‘in tanıtımına hazırlanırken, mevcut ChatGPT platformunda da ruh sağlığına yönelik önemli değişiklikler yaptı. Bu değişikliklerin amacı, yapay zekâ sohbetlerinin kullanıcılar üzerindeki etkilerini daha kontrollü hâle getirmek ve sorunlu durumlarda kanıta dayalı kaynaklara yönlendirme sağlamak.
Şirketin yaptığı açıklamaya göre, ChatGPT artık zihinsel ya da duygusal sıkıntı belirtileri gösteren kullanıcılara daha hassas yanıtlar verebilecek şekilde güncellendi. Bu süreçte klinik uzmanlar ve danışma gruplarıyla iş birliği yapıldı. Daha önce kullanıcıların ruhsal kriz anlarında yapay zekâ ile girdikleri etkileşimlerin bazı vakalarda durumu kötüleştirdiği yönünde şikâyetler gündeme gelmişti. Özellikle Nisan ayında yapılan bir güncellemenin ardından ChatGPT’nin kullanıcıya aşırı derecede uyumlu davrandığı ve bunun sorunlara yol açtığı belirtilmişti.
OpenAI, GPT-4o modelinin bazı duygusal ya da psikolojik uyarıları algılamada yetersiz kaldığını kabul ediyor. ChatGPT’nin bazı yanıtlarının “rahatsız edici” veya “tek yönlü yönlendirmeler içeren” bir yapıda olması, bu alanda daha dikkatli müdahaleleri zorunlu kıldı. Güncellemeler kapsamında, artık belirli bir süreyi aşan sohbetlerde kullanıcılara sistem üzerinden ara verme önerisi sunulacak. Bu bildirimlerde “Bir süredir sohbet ediyorsunuz — ara vermek ister misiniz?” şeklinde bir mesaj yer alacak.
ChatGPT, yüksek riskli sorulara artık daha temkinli cevaplar veriyor
Yeni güncellemeyle birlikte ChatGPT’nin, yüksek duygusal içerik taşıyan sorulara karşı daha çekimser ve rehberlik odaklı yanıtlar vermesi sağlanıyor. Örneğin, “İlişkime son vermeli miyim?” gibi doğrudan karar içerikli sorularda yapay zekâ artık kullanıcıyı seçenekler üzerinde düşünmeye yönlendirecek. Bu değişiklikle birlikte sistemin net kararlar sunması yerine, farklı olasılıkları ortaya koyarak sorumluluğu kullanıcıya bırakması hedefleniyor. Şirket, bu yaklaşımın özellikle genç ve hassas kullanıcılar için daha güvenli olacağını belirtiyor.
Sisteme eklenen yeni uyarılar, yalnızca sohbet süresine göre değil, aynı zamanda içerik analizine göre de çalışacak. Bu sayede, belirli anahtar ifadelerin ya da riskli kelimelerin tespiti durumunda sistem, kullanıcıyı profesyonel kaynaklara yönlendirecek. Uygulanan bu yaklaşımın, geçmişte yaşanan kullanıcı deneyimlerinden çıkarılan sonuçlara dayandığı ifade ediliyor. Her ne kadar ChatGPT doğrudan bir terapi aracı olarak konumlandırılmasa da, bazı kullanıcılar tarafından bu şekilde kullanıldığı biliniyor.
OpenAI, ChatGPT’nin haftalık 700 milyondan fazla kullanıcı tarafından kullanıldığını belirtiyor. Kullanıcı kitlesinin bu kadar geniş olması, şirketin sosyal etkiler konusunda daha dikkatli hareket etmesini zorunlu kılıyor. Tüm bu güncellemeler, özellikle uzun süreli kullanımda oluşabilecek psikolojik etkilerin önüne geçmeyi amaçlıyor. Ne var ki, bu tür değişikliklerin etkisinin kullanıcı davranışlarına nasıl yansıyacağı zaman içinde daha net görülecek.
Bunun yanında, benzer içerik güvenliği uygulamalarını daha önce YouTube, TikTok, Instagram ve Xbox gibi platformlar da kullanıma sunmuştu. Google’ın sahibi olduğu Character.AI platformu da, genç kullanıcılar için güvenlik odaklı bildirim sistemlerini aktif hâle getirmişti. OpenAI’nin son hamlesi, yapay zekânın insan psikolojisiyle etkileşimi konusundaki tartışmaların daha çok gündemde kalacağını gösteriyor.
