Kanada’nın British Columbia eyaleti, Tumbler Ridge’deki silahlı saldırıyla bağlantılı olarak OpenAI’a karşı dava açtı. Eyalet yönetimi, şirketin saldırganın ChatGPT ile yaptığı ve gerçek dünyada şiddet riski taşıdığı öne sürülen konuşmalar konusunda yetkilileri zamanında bilgilendirmediğini savunuyor. The Wall Street Journal ve The New York Times tarafından aktarılan dava dosyasında OpenAI, güvenli olmayan bir ürün tasarlamak ve olası tehditleri kolluk kuvvetlerine bildirmeyerek ihmalkâr davranmakla suçlanıyor. Davacı taraf, şirket içindeki insan inceleme ekiplerinin Royal Canadian Mounted Police’e bilgi verilmesini tavsiye ettiğini, buna rağmen gerekli bildirimin yapılmadığını ileri sürüyor. British Columbia yönetimine göre bu uyarılar dikkate alınmış olsaydı saldırının önlenmesi mümkün olabilirdi.
Süreç, OpenAI’ın saldırganın hesabındaki bazı faaliyetleri daha önce tespit etmiş olması nedeniyle ayrıca dikkat çekiyor. Kaynakta aktarılan bilgilere göre şirket çalışanları, 2025 yılında söz konusu hesapta gerçek dünyada şiddet uygulanabileceğine işaret eden bazı içerikleri işaretledi. İlk hesap daha sonra yasaklandı, fakat kolluk kuvvetlerine bildirim yapılmadı. OpenAI ilerleyen dönemde aynı kişinin ikinci bir hesap oluşturduğunu da belirledi. Bu gelişmelerin kamuoyuna yansımasının ardından Kanada hükümeti şubat ayında OpenAI’dan güvenlik uygulamalarında değişiklik yapmasını talep etti ve şirket daha sonra güvenilir olarak değerlendirilen tehditleri yetkililere bildirme konusunda yeni bir taahhütte bulundu.
OpenAI CEO’su Sam Altman da ilk hesabın kapatıldığı sırada yetkililere haber verilmemesi nedeniyle özür dilemişti. Buna rağmen British Columbia Başbakanı David Eby, özrü gerekli bulduğunu fakat tek başına yeterli olmadığını ifade etti. Dava dilekçesinde de OpenAI’ın saldırının ardından Kanada ve British Columbia makamlarıyla güvenlik konularında yeterli düzeyde iletişim kurmadığı iddia ediliyor. Bu noktada davanın odağında yalnızca saldırı öncesindeki belirli bir karar değil, teknoloji şirketlerinin kullanıcı konuşmalarında ciddi ve yakın bir fiziksel tehdit tespit ettiğinde hangi sorumlulukları üstlenmesi gerektiği de bulunuyor. Yapay zekâ hizmetlerinde gizlilik, ifade özgürlüğü, kullanıcı güvenliği ve kolluk kuvvetlerine bildirim yükümlülüğü arasındaki sınır böylece hukuki bir tartışmanın merkezine taşınıyor.
İLGİNİZİ ÇEKEBİLİR
Microsoft yöneticisi yapay zekâ veri kullanımını ‘emek hırsızlığı’ diye nitelendirmiş
OpenAI, matematik araştırmaları için bağımsız danışma grubu kurdu
Muse ilk günlerinde ChatGPT’den daha fazla indirildi
ChatGPT’ye oğlunu öldürmek istediğini söyledi ve tutuklandı
Meta’nın yeni yapay zekâ ajanına Amazon engeli
OpenAI davasında güvenlik ve bildirim sorumluluğu tartışılıyor
British Columbia Başsavcısı Niki Sharma, teknoloji yeni olsa bile şirketlerin mevcut hukuk düzeninin dışında değerlendirilemeyeceğini söyledi. Sharma’nın açıklamasına göre bir kişinin suç işlemeye yardım etmesi, teşvikte bulunması, suç için iş birliği yapması veya cezai ihmal göstermesi durumunda soruşturma ve yargılama süreçleri devreye girebiliyor. Başsavcı, aynı hesap verebilirlik anlayışının yeni teknolojiler geliştiren şirketler açısından da geçerli olması gerektiğini savunuyor. Sharma bunun yanında bazı yapay zekâ şirketlerinin yöneticilerinin geçmişte gelişmiş yapay zekâ sistemlerinin oluşturabileceği güvenlik risklerine dikkat çektiğini hatırlattı. Davacı taraf bu açıklamaları, sektörün kendi teknolojilerinin doğurabileceği zarar ihtimalinden haberdar olduğuna dair daha geniş bir tartışmanın parçası olarak gündeme getiriyor.
Davanın dikkat çeken bir başka yönünü ise başvurunun Kanada yerine OpenAI’ın merkezinin bulunduğu California’da yapılmış olması oluşturuyor. Kaynakta yer alan bilgilere göre bu tercih, mağdur aileleri açısından daha yüksek tazminatların gündeme gelmesine imkân verebilir. British Columbia yönetimi bununla da sınırlı kalmayarak OpenAI’ın Tumbler Ridge’de yeni bir okulun inşaat maliyetini karşılamasını talep ediyor. Bunun yanında saldırıda hayatını kaybeden ya da zarar gören kişilerin aileleri tarafından da OpenAI’a karşı ayrı bir şikâyet süreci başlatılmış durumda. Ailelerin başvurusunda da şirketin benzer biçimde ihmalkâr davrandığı ileri sürülüyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Dava, üretken yapay zekâ hizmetlerinde tehdit içeren kullanıcı davranışlarının nasıl ele alınacağına ilişkin sınırların henüz tam olarak netleşmediğini gösteriyor. OpenAI’ın ilk hesabı kapatması, şirketin belirli bir risk tespit ettiğini ortaya koyarken esas tartışma bu tespitin hangi aşamada kolluk kuvvetlerine aktarılması gerektiği üzerinde yoğunlaşıyor. Öte yandan her riskli veya şiddet içeren ifadenin gerçek bir tehdide dönüşmemesi, platformların otomatik ya da geniş kapsamlı bildirim sistemleri oluşturmasını da hukuki ve etik açıdan karmaşık hâle getiriyor. Buna rağmen Tumbler Ridge vakası, ciddi ve somut tehdit şüphesinin bulunduğu durumlarda şirketlerin hangi prosedürleri uyguladığına dair daha açık kurallar talep edilmesine yol açıyor. Davanın seyri, özellikle büyük yapay zekâ platformlarının kullanıcı güvenliği ile gizlilik arasındaki sorumluluklarının mahkemeler tarafından nasıl yorumlanacağı konusunda yakından izlenecek örneklerden biri olabilir.
