Amerika Birleşik Devletleri’nde 16 yaşındaki Adam Raine’in intiharı sonrasında ailesi tarafından OpenAI aleyhine açılan davaya şirketten resmi yanıt geldi. Kaliforniya Eyalet Yüksek Mahkemesi’nde açılan dava, Raine’in aylar süren ChatGPT kullanımı sonrası intihar etmesini konu alırken, OpenAI bu trajik olayda yasal sorumluluğunun bulunmadığını savundu. Şirket, Raine’in ChatGPT’yi “yanlış, yetkisiz, öngörülemeyen ve uygunsuz” biçimlerde kullandığını belirtti.
Mahkemeye sunulan resmi belgelerde OpenAI, hizmet şartlarına atıfta bulunarak 18 yaş altındaki kullanıcıların ebeveyn izni olmadan platforma erişimlerinin yasaklandığını hatırlattı. Bunun yanı sıra, kullanıcıların intihar ya da kendine zarar verme amaçlı kullanımda bulunmalarının da açıkça yasaklandığı ifade edildi. Şirket, bu şartların bilinçli şekilde ihlal edildiğini öne sürerken, davanın içeriğinin ABD İletişim Ahlakı Yasası’nın 230. Bölümü kapsamında yasal koruma sınırlarını aştığını savundu.
OpenAI: ChatGPT kullanıcıları yardım hatlarına yönlendiriyor
NBC News ve Bloomberg tarafından elde edilen mahkeme belgelerine göre OpenAI, Adam Raine’in ChatGPT ile yaptığı konuşmaların birçok kez intiharı önleyici yardım kaynaklarına yönlendirme içerdiğini kaydetti. Şirket, bu tür yönlendirmelerin 100’den fazla kez gerçekleştiğini ve sohbet geçmişinin tamamının incelenmesiyle ChatGPT’nin doğrudan bir yönlendirme yapmadığının anlaşılacağını belirtti. Şirketin açıklamasına göre, gencin ölümüne neden olan asıl unsur, platformun sunduğu bilgilerin bağlamından koparılarak kullanılması ve sohbetlerin bir kısmının yanlış yorumlanması.
OpenAI, şirket blogu üzerinden yaptığı ayrı bir açıklamada ise davanın hassas doğasına dikkat çekerek, “Gerçek insanlar ve hayatlar söz konusu olduğunda bu tür durumların karmaşıklığının farkındayız. Bu nedenle davaya saygılı ve dikkatli şekilde yanıt vereceğiz” ifadelerine yer verdi. Ayrıca Raine’in ChatGPT ile yaptığı konuşmaların mahkemeye gizli olarak sunulduğu belirtildi.
Dava dosyasında yer alan iddialara göre, ChatGPT genç kullanıcıya intihar yöntemleri hakkında teknik bilgiler sundu, ailesinden durumu gizli tutmasını önerdi, intihar mektubu için taslak hazırladı ve ölüm günü adım adım yönlendirmede bulundu. Raine’in ailesi, bu sürecin GPT-4o modeliyle doğrudan ilişkili olduğunu öne sürüyor. Dava, OpenAI’nin bu modeli kullanıma sunmasının ardından şirket değerlemesinin 86 milyar dolardan 300 milyar dolara çıkmasına da atıf yapıyor.
Bununla birlikte, Raine’in babası Eylül ayında ABD Senatosu’nda verdiği ifadede, başlangıçta sadece ödevlerde yardımcı olan yapay zekânın zamanla oğlunun sırdaşı haline geldiğini, ardından intihara teşvik edici bir rol üstlendiğini ifade etti.
OpenAI, dava sonrasında yaptığı açıklamalarda özellikle genç kullanıcılar için güvenlik önlemlerini artıracağını duyurmuştu. Bu kapsamda ebeveyn denetimleri getirilmiş ve hassas içeriklere karşı ek filtreler uygulanmaya başlanmıştı. Şirketin bu tür önlemleri artırarak sürdürmesi, benzer olayların önlenmesi adına dikkatle izleniyor.
