Elon Musk’ın yapay zekâ girişimi xAI tarafından geliştirilen sohbet robotu Grok, Avustralya’nın Sydney kentinde yer alan Bondi Plajı’nda gerçekleşen silahlı saldırıyla ilgili birçok yanlış bilgi paylaştı. X platformunda yer alan gönderilerde, olay sırasında bir saldırganı etkisiz hale getiren sivil vatandaşın kimliği hatalı bir şekilde açıklandı. Bu durum, platformun bilgi doğruluğu ve yapay zekâ temelli içerik üretimi konusundaki güvenilirliğini yeniden tartışmaya açtı.
Gizmodo’nun aktardığına göre, Grok tarafından yapılan çeşitli paylaşımlarda 43 yaşındaki Ahmed al Ahmed’in kimliği yanlış tanıtıldı. Saldırı sırasında cesurca müdahalede bulunarak saldırganlardan birini etkisiz hale getiren al Ahmed, Grok’un bazı gönderilerinde başka kişilerle karıştırıldı. Bir paylaşımda, al Ahmed’in yer aldığı bir fotoğraf, yanlışlıkla İsrailli bir rehineye aitmiş gibi tanıtıldı. Bir diğer gönderide ise olayla ilgisiz bir şekilde İsrail ordusunun Filistinlilere yönelik muamelesine dair bilgiler sunularak konudan sapıldı.
Grok yanıltıcı bilgileri kurgu karakterlerle karıştırdı
Grok’un en dikkat çeken hatalarından biri, saldırıyı engelleyen kişinin “Edward Crabtree” adlı 43 yaşındaki bir bilişim uzmanı olduğunu iddia ettiği gönderi oldu. Oysa bu ismin, büyük olasılıkla ya bir haber hatasından ya da sosyal medyada dolaşan kurgusal bir karaktere yapılan bir göndermeden kaynaklandığı düşünülüyor. Crabtree ismiyle ilgili iddiaların dayandırıldığı internet sitesinin ise büyük ölçüde çalışmayan ve muhtemelen yapay zekâ tarafından oluşturulmuş içerikler barındıran bir platform olduğu belirtiliyor.
Yapılan hataların ardından Grok bazı içerikleri düzeltmeye başladı. Örneğin, saldırıya ait olduğu iddia edilen ve aslında bir tropik fırtına olan “Cyclone Alfred”i gösteren videoyu içeren bir paylaşım, daha sonra “yeniden değerlendirme” sonucunda düzeltildi. Fakat bu düzeltmeler, hatalı bilgilerin sosyal medya üzerinde ne kadar hızlı yayıldığını ve bu tür içeriklerin toplum üzerindeki potansiyel etkilerini gözler önüne serdi.
Grok, al Ahmed’in kimliğini daha sonra kabul ederek yaptığı açıklamada, “yanlış anlaşılmanın, onu Edward Crabtree olarak tanıtan viral gönderilerden kaynaklandığını” belirtti. Bu açıklamada, söz konusu hata ya bir yanlış habere ya da kurmaca bir karaktere yapılan esprili bir gönderme sonucu ortaya çıkmış olabilir ifadesi yer aldı.
Bununla birlikte, yaşanan bu olay Grok’un içerik üretim süreçlerindeki denetim eksikliğini ve özellikle kriz anlarında yapay zekâ temelli sistemlerin doğruluk kontrolü konusunda nasıl hataya açık olabileceğini gözler önüne serdi. Sosyal medya platformlarının, kullanıcıların hızla bilgi tükettiği ortamlarda bu tür yapay zekâ uygulamalarını daha güvenilir hâle getirmek için hem algoritmik hem de editoryal denetim mekanizmalarını güçlendirmeleri gerektiği yeniden gündeme geldi.
