Brezilya’da 36 yaşındaki bir çiftçi, ChatGPT ile yaptığı konuşmalarda sekiz yaşındaki oğlunu öldürmekten, başka kişilere saldırmaktan ve ardından intihar etmekten söz etmesinin ardından polis tarafından gözaltına alındı. BBC News Brasil’in ulaştığı bilgilere göre, yaklaşık iki aya yayılan konuşmalar ChatGPT’nin geliştiricisi OpenAI tarafından ciddi ve yakın bir tehdit olarak değerlendirilerek ABD Federal Soruşturma Bürosu’na (FBI) bildirildi. FBI’ın Brezilyalı yetkililere ulaşmasının ardından konu ülkenin Adalet Bakanlığına bağlı siber suçlar birimine, oradan da Espírito Santo eyalet polisine aktarıldı. Polis, mesajlarda belirli bir çocuğa yönelik tehdidin yanı sıra okullara, kiliselere ve güvenlik güçlerine saldırı düşüncelerinin de yer aldığını belirtiyor. Şüpheli ise oğluna zarar vermeyi planladığını reddederken, avukatı bir yapay zeka sohbet robotuyla yapılan konuşmaların tek başına suç oluşturmadığını savunuyor.
BBC, çocuğun kimliğinin açığa çıkmaması için şüphelinin adını yayımlamadı. Erkek, dosyanın eyalet polisine ulaşmasından üç gün sonra, 19 Haziran’da kırsal São Gabriel da Palha bölgesinde tutuklandı. Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, polisin vakaya öncelik vermesinde mesajlardaki tehdidin ciddiyetinin ve babanın oğlunu ayın 20’sine kadar öldürmeyi planladığı iddiasının etkili olduğunu söyledi. Andrade’ye göre şüphelinin nafaka ödemeleri dışında oğluyla çok az teması bulunuyordu ve araştırmacılar bu ödemeler nedeniyle duyduğu öfrenin iddia edilen planın nedenlerinden biri olabileceğini değerlendiriyor. Bununla birlikte bu değerlendirme henüz mahkeme tarafından doğrulanmış bir suç veya gerekçe anlamına gelmiyor.
Polisin şüphelinin evinde gerçekleştirdiği aramada içeriği henüz belirlenemeyen maddeler bulunan dört şişe ile düğümlenmiş bir ip ele geçirildi. Yetkililer ipin ve diğer bulguların intihar düşüncesiyle bağlantılı olabileceğini değerlendirirken, maddelerin niteliğini belirlemek amacıyla adli inceleme başlatıldı. Soruşturmacılar aynı zamanda şüphelinin ChatGPT üzerinden risin dahil çeşitli zehirli maddeler hakkında araştırma yaptığını öne sürüyor. Polis, kullanıcının sorularını farklı biçimlerde yeniden yazarak ChatGPT’nin güvenlik kısıtlamalarını aşmayı denediğini de belirtiyor. Andrade, OpenAI tarafından yetkililere aktarılan bilgilerin olay yerine gidildiğinde elde edilen bulgularla örtüştüğünü söyledi.
OpenAI’ın FBI’a yaptığı bildirim yapay zeka konuşmalarında gizlilik tartışmasını büyütüyor
BBC News Brasil’in gördüğü konuşmalarda şüphelinin şiddet içeren çeşitli senaryolardan söz ettiği aktarılıyor. Mesajlardan birinde bir uyuşturucu satış noktasındaki kişileri ve daha sonra polisleri öldürmekten bahsederken, başka bir mesajında polise ateş açarak güvenlik güçlerinin kendisini öldürmesini sağlamayı düşündüğünü yazdığı belirtiliyor. Daha dikkat çekici iddialardan biri ise bir kişiye kendisini ve oğlunu öldürmesi için 50 bin dolar teklif ettiğini, fakat bu kişinin olayda bir çocuk bulunduğu gerekçesiyle teklifi kabul etmediğini söylemesi oldu. Başka bir konuşmada ise insanları öldürme isteğinin kaynağını anlamaya çalıştığını ve başkalarının acı çekmesini görmekten hoşlandığını ifade ettiği bildiriliyor. Polis şimdi bu sözlerin yalnızca sohbet içerisinde kalan ifadeler mi olduğunu, yoksa şüphelinin bunları gerçekleştirmek amacıyla somut girişimlerde bulunup bulunmadığını belirlemeye çalışıyor.
Bu ayrım Brezilya ceza hukuku açısından soruşturmanın temel noktalarından birini oluşturuyor. Şüphelinin cep telefonunda yürütülen incelemeyle, ChatGPT konuşmalarında sözünü ettiği kiralık katil dahil herhangi biriyle gerçekten iletişim kurup kurmadığı araştırılıyor. Ele geçirilen maddelere ilişkin laboratuvar sonuçları da dosyanın değerlendirilmesinde kullanılacak. Soruşturmacılar böylelikle olayın düşünce ve hazırlık aşamasında mı kaldığını, yoksa bir suçun uygulanmasına yönelik somut adımlar atılıp atılmadığını belirlemeyi amaçlıyor. Brezilya hukukunda suçun hazırlık aşaması ile icra aşaması arasındaki ayrım bu nedenle şüpheli hakkında ileride verilebilecek karar açısından belirleyici olabilir.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
İLGİNİZİ ÇEKEBİLİR
OpenAI, Google ve Anthropic yapay zekâ güvenliğinde birlikte hareket ediyor
OpenAI’ın Glass Imaging’i satın aldığı öne sürüldü
iOS 27’de bu iki hareketi peş peşe yapmak iPhone’u dondurabiliyor
Intel Quanta’yı dünyanın en büyük notebook üreticisi olarak tanımlıyor: Casper bu ekosistemde nerede?
Honor Win 2 dev pil ve Snapdragon 8 Elite Gen 6 ile geliyor
Şüpheli 54 gün gözaltında kaldıktan sonra soruşturmadaki gecikmeler nedeniyle 13 Ağustos’ta serbest bırakıldı ve hakkında henüz bir suçlama yöneltilmedi. Buna rağmen soruşturma devam ediyor ve çiftçi elektronik olarak izlenecek. Bunun yanında oğluyla ve çocuğun annesiyle iletişim kurması yasaklandı. Savunma avukatı Pedro Paulo Pessi, müvekkilinin herhangi bir suç işlemediğini savunuyor. Pessi, BBC News Brasil’e yaptığı açıklamada, bir kişinin yapay zeka ile konuşup “saçma sapan şeyler” söylemesinin suç kabul edilmesi durumunda çok geniş bir kesimin cezai soruşturmayla karşı karşıya kalabileceğini öne sürdü.
Vaka aynı zamanda yapay zeka şirketlerinin kullanıcı konuşmalarındaki olası tehditlere nasıl müdahale etmesi gerektiğine ilişkin daha geniş bir tartışmayı gündeme getiriyor. OpenAI, BBC News Brasil’e yaptığı açıklamada başkalarına zarar verilmesine ilişkin güvenilir ve yakın bir risk tespit edildiği durumlarda kolluk kuvvetlerinin bilgilendirilebileceğini söyledi. Buna karşılık şirketin Brezilyalı yetkililere kullanıcının bilgilerini ve gönderdiği mesajları aktardığı, ChatGPT tarafından verilen yanıtların ise soruşturmacılara teslim edilmediği bildiriliyor. Andrade, polisin chatbot tarafından verilen cevaplara sahip olmadığını doğruladı. Bu eksiklik, konuşmaların mahkemede delil olarak değerlendirilmesi halinde bağlamın nasıl kurulacağı konusunda yeni sorular ortaya çıkarıyor.
Ceza avukatı Maíra Fernandes’e göre yalnızca kullanıcının mesajlarının görülmesi konuşmanın bütünüyle değerlendirilmesi için yeterli olmayabilir. Fernandes, delil olarak kullanılacak bir yapay zeka görüşmesinin küçük veya düzenlenmiş bölümler yerine konuşmanın tamamını içermesi gerektiğini savunuyor. Böyle bir kayıt, ChatGPT’nin kullanıcının ifadelerine yalnızca yanıt verip vermediğini veya konuşmanın yönünü başka biçimlerde etkileyip etkilemediğini değerlendirmek açısından da gerekli olabilir. Dolayısıyla mesele yalnızca kullanıcının ne yazdığıyla sınırlı kalmıyor; yapay zeka sisteminin verdiği yanıtların bağlam üzerindeki etkisi de hukuki incelemenin konusu haline gelebiliyor. Bu durum, sohbet robotu kayıtlarının klasik mesajlaşma uygulamalarındaki yazışmalardan farklı delil sorunları oluşturabileceğini gösteriyor.
OpenAI’ın güvenlik gerekçesiyle kolluk kuvvetlerine bildirim yaptığı vakaların kamuoyuna yansıyan örnekleri şimdilik sınırlı. ABD basınında ağustos ayında yayımlanan haberlerde şirketin, eski kız arkadaşına yönelik tecavüz ve cinayet planlarından söz ettiği belirtilen 25 yaşındaki Florida sakini hakkında FBI’a bilgi verdiği aktarılmıştı. Andrade’ye göre Brezilya’daki çiftçiyle ilgili olay Espírito Santo polisinin aldığı ilk yapay zeka kaynaklı uyarı olurken, ülke genelinde bilinen üçüncü örnek niteliğinde. Bu vakaların sayısının artması, yapay zeka şirketlerinden gelen uyarıların polis soruşturmalarının başlatılmasında hangi ölçütlerle kullanılacağı sorusunu daha görünür hale getiriyor. Özellikle ortada henüz işlenmiş bir suç bulunmadığında, güvenlik ile kullanıcı mahremiyeti arasındaki sınır daha karmaşık bir hukuki sorun oluşturuyor.
Dijital hukuk uzmanı Patricia Peck, yapay zeka sistemlerinin yalnızca içerik üreten araçlar olmaktan çıkıp potansiyel olarak tehlikeli davranışlarla bağlantılı örüntüleri de tespit edebilen etkileşimli sistemlere dönüştüğüne dikkat çekiyor. Peck’e göre konuşma soyut bir düşüncenin ötesine geçerek kimliği belirlenebilir bir mağdur, kullanılabilir araçlar ve yakın bir risk içeren somut tehdide dönüşüyorsa şirketlerin belirli koşullarda etik, hatta hukuki bildirim yükümlülükleri doğabilir. Fernandes ise yalnızca bir yapay zeka sisteminin risk değerlendirmesine dayanılarak soruşturma başlatılmasının olağan hale gelmesine karşı uyarıyor. Ona göre gerçek bir tehdidin duygusal boşalma, kurgu, fantezi veya kışkırtıcı ifadelerden ayrılmasını sağlayacak güvencelere ihtiyaç bulunuyor. Brezilya’daki soruşturmanın seyri de yapay zeka sohbetlerinin hem güvenlik uyarısı hem de hukuki delil olarak nasıl ele alınabileceğine ilişkin henüz tam olarak yanıtlanmamış soruların somut bir örneğini oluşturuyor.
