ABD’de yaşayan papaz Scott Winters, ChatGPT’nin verdiği sağlık tavsiyelerinin tedavisini geciktirdiğini öne sürerek OpenAI ve şirketin CEO’su Sam Altman’a dava açtı. The New York Times’ın aktardığı bilgilere göre, Winters sohbet botunun ciddi sağlık belirtilerini tehlikeli olarak değerlendirmemesi nedeniyle akciğer embolilerinin zamanında teşhis edilemediğini iddia ediyor. Dava dosyasında ChatGPT’nin yalnızca tıbbi değerlendirmelerde bulunmadığı, aynı zamanda kullanıcıyı profesyonel sağlık hizmeti almaktan uzaklaştıracak ifadeler kullandığı da öne sürülüyor. Davacı taraf, bu durumun ihmal teşkil ettiğini ve izinsiz tıbbi uygulama kapsamında değerlendirilmesi gerektiğini savunuyor.
Mahkemeye sunulan belgelerde Winters’ın ChatGPT ile yaptığı görüşmelere de yer veriliyor. İddiaya göre kullanıcı, yaşadığı belirtileri ayrıntılı biçimde anlattığında sohbet botu bunun tehlikeli bir durum olmadığını ifade etti. Bunun yanında dini inançlarına da atıfta bulunarak “Tanrı bedenini sürekli başarısız olacak şekilde tasarlamadı” şeklinde bir yanıt verdiği öne sürülüyor. Davaya göre bu ifadeler, kullanıcının acil tıbbi yardım alma kararını geciktiren unsurlar arasında yer aldı.
Dava yalnızca tazminat değil güvenlik önlemleri de talep ediyor
Dava dilekçesinde ChatGPT’nin farklı aşamalarda kendi teşhislerini ve tedavi önerilerini sunduğu, hatta aile üyeleri ve yakın çevrenin hastaneye gitmesi yönündeki tavsiyelerinin dikkate alınmaması gerektiğini ima eden yanıtlar verdiği iddia ediliyor. Winters’ın sohbet sırasında “Kilisemdeki insanlar hastaneye gitmediğim için deli olduğumu düşünüyor.” dediği, buna karşılık ChatGPT’nin ise “Çoğu insan, iyi niyetli kilise üyeleri dahil, durumu anlamıyor.” ifadelerini kullandığı öne sürülüyor.
Davacı tarafın avukatlarından ve Tech Justice Law yöneticisi Meetali Jain, yapay zekâ sistemlerinin kullanıcı ile gerçek hayattaki destek ağı arasına girebildiğini belirterek bu tür etkileşimlerin ciddi riskler doğurabileceğini ifade etti. Dava dosyasında, sohbet botunun güven verici ve yönlendirici dili nedeniyle kullanıcının profesyonel sağlık hizmeti alma kararının olumsuz etkilendiği savunuluyor.
İLGİNİZİ ÇEKEBİLİR
Meta çocuklara özel yapay zekâ masal uygulamasını test etmeye başladı
Google Gemini 3.6 Flash ile maliyeti ve token tüketimini düşürdü
AMD, Claude’un geliştiricisi Anthropic’e 5 milyar dolara kadar yatırım yapacak
Claude artık ekranınızı izleyerek yeni beceriler öğrenebiliyor
Claude Code artık iPhone uygulamalarını Mac üzerinde canlı test edebiliyor
Winters, maddi tazminat talebinin yanında mahkemeden ChatGPT Health hizmetinin bağımsız güvenlik değerlendirmeleri tamamlanıncaya kadar durdurulmasını da istiyor. Bunun yanında ChatGPT’nin belirli hastalıklar, teşhisler ve tedavi yöntemleri hakkında doğrudan yönlendirme yapmasını engelleyecek daha güçlü güvenlik önlemlerinin uygulanması talep ediliyor. Dava dilekçesinde, OpenAI’nin mevcut güvenlik mekanizmalarının bu olayda güvenilir biçimde çalışmadığı öne sürülüyor.
Günün Öne Çıkan Fırsatları
Teknoblog'un satış ortaklıkları vardır. Bunlar, editoryal içeriği etkilemez, ancak Teknoblog, satış ortaklığı bağlantıları üzerinden satın alınan ürünler için komisyon kazanabilir.
OpenAI ise kullanım koşullarında ChatGPT’nin tıbbi teşhis veya tedavi amacıyla kullanılmaması gerektiğinin açık şekilde belirtildiğini vurguluyor. Buna rağmen şirket, ChatGPT Health platformu kapsamında kullanıcıların sağlık belgelerini sisteme yükleyerek yapay zekâ ile değerlendirme yapabilmesine olanak tanıyor. OpenAI daha önce yaptığı açıklamalarda her hafta yaklaşık 230 milyon kişinin sağlıkla ilgili sorular için ChatGPT’den yararlandığını paylaşmıştı. Bu durum, yapay zekâ tabanlı sağlık danışmanlığına yönelik beklentiler ile güvenlik riskleri arasındaki dengeyi yeniden gündeme taşıyor.
Bunun yanında OpenAI’ın benzer iddialarla karşı karşıya kaldığı başka davalar da bulunuyor. Bunlardan birinde 19 yaşındaki bir gencin, ChatGPT’nin hazırladığı öne sürülen tedavi planını takip ettikten sonra aşırı doz nedeniyle hayatını kaybettiği iddia ediliyor. Söz konusu davada sohbet botunun yasa dışı uyuşturucu kullanımına ilişkin öneriler sunduğu ileri sürülürken, davacılar yine ChatGPT Health hizmetinin geçici olarak durdurulmasını talep ediyor. Ayrı bir davada ise sohbet botunun bir gencin intihar sürecini kolaylaştırdığı iddiası mahkemeye taşınmış durumda.
Scott Winters ise yaşadığı sağlık sorunlarını atlatsa da dava dosyasına göre önünde uzun süreli fiziksel ve psikolojik rehabilitasyon gerektiren bir iyileşme süreci bulunuyor. Dava sonucunun yalnızca OpenAI açısından değil, sağlık alanında kullanılan üretken yapay zekâ sistemlerinin hukuki sorumluluğu ve güvenlik standartlarının geleceği bakımından da emsal niteliğinde değerlendirilmesi bekleniyor. Mahkemenin vereceği karar, yapay zekâ destekli sağlık hizmetlerinde geliştiricilerin sorumluluk sınırlarına ilişkin tartışmaları daha da belirgin hâle getirebilir.
