OpenAI yapay zekâ güvenlik ekibini dağıttı

OpenAI, geliştirdiği yapay zekâ modellerinin ciddi güvenlik risklerini değerlendirmekle görevli hazırlık ekibini geçen ayın sonunda dağıttı. “Preparedness” adıyla faaliyet gösteren ekip, modellerin giderek gelişen yeteneklerinin yol açabileceği riskleri belirliyor ve bunların nasıl azaltılabileceği üzerinde çalışıyordu. İncelenen senaryolar arasında bir yapay zekâ sisteminin kontrol dışına çıkarak başka bir şirketin sistemlerine sızabilecek yetenekler kazanması gibi durumlar da bulunuyordu. Şirketin güvenlik çalışmalarından tamamen vazgeçtiği belirtilmiyor; bunun yerine biyolojik tehditler ve siber güvenlik gibi belirli risk alanlarının sorumluluğu mevcut ekipler arasında paylaştırılmış durumda. Böylelikle daha önce tek bir ekip altında yürütülen hazırlık çalışmalarının organizasyon içindeki farklı birimlere dağıtıldığı anlaşılıyor.

Söz konusu değişiklik, OpenAI’ın son birkaç yıldır güvenlik ve uzun vadeli yapay zekâ riskleri üzerinde çalışan ekiplerinde yaşanan yeniden yapılanmaların devamı niteliğinde. Şirket daha önce yapay genel zekâya hazırlık çalışmalarına odaklanan AGI Readiness ekibini ve gelişmiş yapay zekâ sistemlerinin insan hedefleriyle uyumlu kalmasını araştıran Superalignment ekibini de dağıtmıştı. Bunun yanında şirketin güvenlik ve araştırma kadrolarında dikkat çeken ayrılıklar yaşandı. Etik çalışmalarının başındaki Chloé Bakalar, Chief Futurist unvanını taşıyan Josh Achiam ve güvenlik çalışmalarını yöneten Johannes Heidecke yakın dönemde OpenAI’dan ayrılan isimler arasında bulunuyor. Financial Times, bu değişikliklerin şirketin oldukça büyük olması beklenen olası halka arzına doğru ilerlediği ve kurumsal yapısında değişiklikler yaptığı bir döneme denk geldiğine dikkat çekiyor.

İLGİNİZİ ÇEKEBİLİR

OpenAI yapay zekâ güvenliği çalışmalarını farklı ekiplere dağıtıyor

OpenAI’ın güvenlik yapılanmasındaki değişiklikler, şirketten daha önce ayrılan bazı araştırmacıların eleştirilerini de yeniden gündeme getirdi. Superalignment ekibinin liderlerinden Jan Leike, 2024’te OpenAI’dan ayrılmış ve o dönemde şirketin güvenlik kültürü konusunda eleştiriler yöneltmişti. Leike, Financial Times’a yaptığı değerlendirmede OpenAI’ın güvenlik yerine “parlak ürünler” geliştirmeye öncelik verdiğini savundu. Bu görüş şirketin mevcut güvenlik yaklaşımına yönelik bir eleştiri niteliği taşıyor ve OpenAI’ın resmi tutumuyla aynı anlamı taşımıyor. Hazırlık ekibinin görevlerinin tamamen kaldırılmak yerine biyolojik güvenlik ve siber güvenlik gibi alanlarda mevcut birimlere aktarılması da şirketin bu konuları farklı bir organizasyon modeliyle ele almaya devam ettiğini gösteriyor.

Hazırlık ekibinin başında bulunan Dylan Scandinaro’nun görevi de bu yeniden yapılanmayla birlikte değişiyor. Şubat ayında rakip yapay zekâ şirketi Anthropic’ten OpenAI’a geçen Scandinaro, bundan sonra “özyinelemeli biçimde kendini geliştiren” yapay zekâ sistemlerinin olası etkilerine yoğunlaşacak. Bu kavram, bir yapay zekâ sisteminin kendi yeteneklerini geliştirme sürecine katkıda bulunması ve elde ettiği daha yüksek kapasiteyi daha ileri geliştirmeler için tekrar kullanabilmesi ihtimalini ifade ediyor. Böyle bir mekanizmanın ne ölçüde mümkün olacağı ve hangi hızda gerçekleşebileceği yapay zekâ güvenliği alanındaki tartışmalı araştırma başlıkları arasında yer alıyor. Scandinaro’nun yeni çalışma alanı da OpenAI’ın uzun vadeli risk araştırmalarını tamamen sonlandırmadığını, fakat bunları daha farklı bir organizasyon yapısı altında sürdürdüğünü ortaya koyuyor.

OpenAI’ın güvenlik organizasyonunda yapılan bu değişiklik, özellikle şirketin modellerinin yetenekleri arttıkça bağımsız risk değerlendirmesinin nasıl yürütüleceği sorusunu beraberinde getiriyor. Risk alanlarının doğrudan uzman ekiplerin sorumluluğuna verilmesi, biyolojik güvenlik veya siber güvenlik gibi konularda daha derin uzmanlıktan yararlanılmasını sağlayabilir. Buna karşılık hazırlık ekibi gibi merkezi bir yapının ortadan kalkması, farklı risk kategorilerini birlikte değerlendiren kurum içi bir mekanizmanın gücü konusunda soru işaretleri yaratabilir. Buradaki belirleyici unsur, dağıtılan sorumlulukların mevcut ekiplerde hangi yetki, personel ve kaynaklarla sürdürüleceği olacak. Şirketin ürün geliştirme temposu ile gelişmiş modellerin doğurabileceği riskleri ölçme çalışmaları arasındaki denge de OpenAI’ın güvenlik yaklaşımının değerlendirilmesinde temel ölçütlerden biri olmaya devam edecek.