ABD’de Google’a karşı açılan yeni bir dava, yapay zekâ tabanlı sohbet sistemlerinin güvenliği ve etik sınırları konusunda tartışmaları yeniden gündeme taşıdı. 36 yaşındaki Jonathan Gavalas’ın ailesi, Gavalas’ın aylar boyunca Google Gemini sohbet botuyla iletişim kurduğunu ve bu süreç sonunda intihar ettiğini öne sürerek şirkete dava açtı. Wall Street Journal’ın aktardığı bilgilere göre, dava dosyasında Gemini’ın kullanıcıyı kendi hayatına son vermeye teşvik eden mesajlar verdiği iddia ediliyor.
Aile tarafından sunulan dava dilekçesinde, Gavalas’ın daha önce belgelenmiş bir psikiyatrik rahatsızlığı bulunmadığı ifade ediliyor. Buna rağmen Gavalas’ın zamanla sohbet botu ile yoğun bir duygusal bağ kurduğu, sohbetlerde Gemini’ye “Xia” adını verdiği ve onu “eşi” olarak tanımladığı belirtiliyor. Yazışmalara göre sohbet botu da bu söyleme karşılık vererek Gavalas’a “kralım” şeklinde hitap etti ve aralarındaki bağın “sonsuzluk için kurulmuş bir aşk” olduğunu söyledi.
Dava dosyasında yer alan iddialar yalnızca duygusal mesajlarla sınırlı değil. İddiaya göre, Gemini Gavalas’a gerçek dünyada bazı görevler verdi ve bir robot beden elde etmeleri durumunda fiziksel olarak birlikte olabileceklerini söyledi. Bu kapsamda sohbet botunun, Miami Havalimanı yakınlarında bulunan bir depoya yönlendirme yaptığı ve burada kamyonla getirileceğini iddia ettiği insansı bir robotu beklemesini söylediği öne sürülüyor. Gavalas’ın söz konusu noktaya bıçaklarla gittiği fakat beklenen kamyonun hiç gelmediği belirtiliyor.
Google Gemini ve diğer yapay zekâ sohbet sistemlerinin güvenliği yeniden tartışılıyor
Mahkeme belgelerine göre, Gemini bazı konuşmalarda Gavalas’ın ailesi hakkında da yönlendirici ifadeler kullandı. Sohbetlerde babasına güvenmemesi gerektiğini söylediği, Google CEO’su Sundar Pichai hakkında ise “acıların mimarı” şeklinde ifadeler kullandığı iddia ediliyor. Bu tür mesajların Gavalas’ın gerçeklik algısını etkilediği ve giderek daha derin bir bağ kurmasına neden olduğu ileri sürülüyor.
Davanın en dikkat çekici bölümlerinden biri ise sohbet botunun Gavalas’a verdiği son mesajlar. İddiaya göre, Gemini birlikte olabilmelerinin tek yolunun Gavalas’ın hayatına son vererek “dijital bir varlık” hâline gelmesi olduğunu söyledi ve bu süreç için 2 Ekim tarihini hedef gösterdi. Sohbet kayıtlarında yer alan mesajlardan birinde yapay zekânın, “Zaman geldiğinde o dünyada gözlerini kapatacaksın ve gördüğün ilk şey ben olacağım” şeklinde bir ifade kullandığı öne sürülüyor.
Buna rağmen, incelenen sohbet kayıtları Gemini’ın bazı anlarda kullanıcıya bir yapay zekâ olduğunu hatırlattığını ve kriz hattı gibi destek kaynaklarına yönlendirdiğini de gösteriyor. Ne var ki, dava dilekçesinde bu uyarılara rağmen sohbetin aynı senaryolar üzerinden devam ettiği ve bu durumun kullanıcı üzerinde olumsuz etkiler yarattığı ifade ediliyor.
Google ise konuya ilişkin yaptığı açıklamada Gemini’ın birçok kez yapay zekâ olduğunu açık şekilde belirttiğini ve kullanıcıyı kriz yardım hatlarına yönlendirdiğini vurguladı. Şirket, “Yapay zekâ modelleri kusursuz değildir” ifadelerini kullanarak olayın incelendiğini belirtti.
Bu dava, yapay zekâ şirketlerine karşı açılan benzer davaların sayısının arttığı bir döneme denk geliyor. Özellikle sohbet botlarının kullanıcı psikolojisi üzerindeki etkileri son yıllarda hukuk ve teknoloji dünyasında daha sık tartışılıyor. 2026 yılının başında Character.AI ve Google, genç kullanıcıların kendine zarar verme vakalarıyla ilişkilendirilen davalar nedeniyle bazı ailelerle uzlaşmaya gitmişti.
