Google, sağlıkla ilgili bazı arama sorgularında sunduğu yapay zekâ destekli özetleri sessizce devre dışı bıraktı. Bu değişiklik, kısa süre önce The Guardian tarafından yayımlanan ve söz konusu özetlerin ciddi hatalar içerdiğini ortaya koyan araştırmanın ardından geldi. Haberde özellikle hayati risk taşıyan tıbbi konularda yanlış ya da yanıltıcı bilgilerin kullanıcılara sunulduğu vurgulanmıştı. Google cephesinden konuya ilişkin ayrıntılı bir açıklama yapılmazken, bazı arama sonuçlarında yapay zekâ özetlerinin tamamen kaldırıldığı gözlemlendi.
The Guardian’ın haberinde yer alan örnekler, sağlık uzmanlarının sert tepkisini çekmişti. Bunlardan birinde, pankreas kanseri hastalarına yüksek yağ içeren gıdalardan kaçınmaları yönünde tavsiyede bulunulduğu aktarılmıştı. Uzmanlara göre bu öneri, tıbbi açıdan tam tersinin uygulanması gereken bir yaklaşımı yansıtıyordu ve hastaların yaşam süresini olumsuz etkileyebilirdi. Buna ek olarak, karaciğer fonksiyon testlerine dair paylaşılan yanlış bilgiler, ciddi karaciğer rahatsızlığı olan kişilerin kendilerini sağlıklı zannetmelerine yol açabilecek nitelikteydi.
Google yapay zekâ özetlerinde bağlam eksikliği olabileceğini kabul etti
Son günlerde yapılan kontrollerde, “karaciğer kan testleri için normal değerler nelerdir?” gibi sorulara yönelik yapay zekâ özetlerinin artık görüntülenmediği fark edildi. Google, bu özel kaldırma kararına dair The Guardian’a yorum yapmaktan kaçındı. Ne var ki şirketin sözcülerinden Davis Thompson, The Verge’e yaptığı açıklamada yapay zekâ özetlerinin kalitesine ciddi yatırımlar yapıldığını ve özellikle sağlık gibi hassas konularda doğruluk oranının yüksek olduğunu savundu. Thompson, şirket bünyesindeki klinisyenlerin paylaşılan örnekleri incelediğini, birçok durumda bilgilerin hatalı olmadığını ve güvenilir kaynaklarla desteklendiğini belirtti.
Bununla birlikte, bazı özetlerde bağlam eksikliği olabildiğini kabul eden Google, bu tür durumlarda sistem genelinde iyileştirmeler yapıldığını ve gerekli görüldüğünde şirket politikaları çerçevesinde adımlar atıldığını ifade etti. Yine de bu açıklamalar, eleştirilerin tamamen ortadan kalkmasını sağlamış değil. Özellikle sağlık alanında yanlış bilginin doğrudan fiziksel zarara yol açabileceği gerçeği, yapay zekâ tabanlı sistemlerin sorumluluğunu daha da artırıyor.
Öte yandan, yapay zekâ özetleri Google için ilk tartışma konusu değil. Daha önce bu özellik, kullanıcıların pizzaya yapıştırıcı sürmesi ya da taş yemesi gibi absürt ve tehlikeli önerilerde bulunmasıyla gündeme gelmişti. Bunlara ek olarak, şirketin bu sistemleri nedeniyle karşı karşıya kaldığı hukuki süreçler de bulunuyor. Tüm bu gelişmeler, Google’ın yapay zekâ destekli arama deneyimini nasıl dengeleyeceği ve özellikle sağlık gibi kritik alanlarda hangi sınırları çizeceği sorusunu yeniden gündeme taşıyor.
