OpenAI CEO’su Sam Altman, Kanada’nın British Columbia eyaletinde gerçekleşen ve çok sayıda kişinin hayatını kaybettiği silahlı saldırının ardından şirketinin güvenlik güçlerini zamanında bilgilendirmemesi nedeniyle kamuoyundan özür diledi. Altman’ın kaleme aldığı mektup, yerel yetkililer tarafından paylaşılırken, şirketin daha önce kapattığı bir kullanıcı hesabıyla ilgili değerlendirme sürecinin yeniden tartışılmasına yol açtı.
Altman, yayımlanan mektubunda özellikle Haziran ayında kapatılan bir hesapla ilgili olarak kolluk kuvvetlerine bildirim yapılmamasından dolayı duyduğu üzüntüyü dile getirdi. Söz konusu hesabın, OpenAI’ın kötüye kullanım tespit sistemleri tarafından “şiddet içeren faaliyetleri destekleme” şüphesiyle incelendiği, ancak o dönemde yetkililere iletilmesi gereken eşik seviyesinin karşılanmadığı gerekçesiyle resmi bir bildirim yapılmadığı ifade edildi. Buna rağmen hesap, şirket politikalarını ihlal ettiği gerekçesiyle erişime kapatılmıştı.
10 Şubat’ta meydana gelen saldırıda, 18 yaşındaki saldırganın önce ailesinden iki kişiyi öldürdüğü, ardından Tumbler Ridge Secondary School’da silahlı saldırı düzenlediği belirtildi. Olayda beş öğrenci ve bir eğitimci hayatını kaybederken, toplamda sekiz kişi yaşamını yitirdi. Saldırıda ayrıca 25 kişinin yaralandığı açıklandı. Yetkililer, saldırganın olay yerinde hayatını kaybettiğini bildirdi.
OpenAI’ın karar süreci ve tartışmalar
Olayın ardından OpenAI, saldırganla bağlantılı hesabın daha önce tespit edildiğini kamuoyuna duyurdu. Şirketin açıklamasına göre, ilgili hesapta şiddet eğilimi barındırabilecek içerikler incelendi; ne var ki mevcut değerlendirme kriterleri doğrultusunda kolluk kuvvetlerine bildirim yapılması gerekli görülmedi. Bu yaklaşım, özellikle British Columbia Başbakanı David Eby tarafından eleştirildi ve şirketin olası bir önleme fırsatını kaçırmış olabileceği yönünde değerlendirmeler yapıldı.
Sam Altman mektubunda Tumbler Ridge Belediye Başkanı Darryl Krakowka ve Başbakan Eby ile görüşmeler gerçekleştirdiğini belirtti. Görüşmelerde bölge halkının yaşadığı öfke, üzüntü ve kaygının kendisine aktarıldığını ifade eden Altman, kamuya açık bir özrün gerekli olduğu konusunda mutabakata varıldığını aktardı. Bununla birlikte, topluluğun yas sürecine saygı göstermek adına açıklamanın zamanlamasının dikkatle ele alındığı da vurgulandı.
Bunun yanında Altman, benzer olayların tekrar yaşanmaması için şirketin süreçlerini gözden geçireceğini ve kamu kurumlarıyla daha yakın iş birliği içinde çalışmayı sürdüreceğini dile getirdi. Yapay zekâ sistemlerinin kötüye kullanım risklerini azaltmaya yönelik mevcut politikaların yeniden değerlendirilmesi, bu tür olayların ardından teknoloji şirketlerinin sorumluluğunu yeniden gündeme taşıdı.
Öte yandan British Columbia eyalet yönetimi, yapılan özrün gerekli olduğunu kabul etmekle birlikte, yaşanan kayıpların büyüklüğü karşısında yetersiz kaldığını ifade etti.
