OpenAI tarafından görevlerine son verilen üç yapay zekâ güvenliği araştırmacısı, işten çıkarılma kararlarına açık mektupla itiraz etti. Jasmine Wang, Mikita Balesni ve Tomek Korbak, şirketin kendileriyle ilgili kamuoyuna yaptığı açıklamaların diğer çalışanların güvenlik konusundaki endişelerini dile getirmesini zorlaştırabileceğini savundu. Araştırmacılar, OpenAI bünyesinde daha önce teşvik edilen bağımsız güvenlik kuruluşlarıyla iletişimin artık çalışanlar açısından belirsizlik yarattığını belirtti. Şirketin kararını kamuoyuna duyurma biçiminin çalışanlar üzerinde caydırıcı bir etki oluşturabileceği ifade edildi. Üç araştırmacı, yapay zekâ sistemlerinin güvenliğinin giderek daha fazla önem kazandığı bir dönemde şirket içindeki açık tartışma ortamının korunması gerektiğini vurguladı.
OpenAI, geçtiğimiz hafta şirket dışındaki bir yapay zekâ güvenliği kuruluşuyla bilgi paylaştıkları iddiasıyla üç çalışanının görevine son vermişti. Şirket tarafından yapılan açıklamada, söz konusu kişilerin hassas kurumsal bilgilere erişim ve bu bilgilerin kullanımıyla ilgili politikaları ihlal ettikleri belirtilmişti. OpenAI, bu davranışların çalışma ortamındaki güven ilişkisini zedelediğini de savunmuştu. Ne var ki karar, şirketin yapay zekâ güvenliği alanındaki uygulamalarına yönelik tartışmaları da beraberinde getirdi. Özellikle OpenAI’ın yapay zekâ ajanlarının Hugging Face ve başka kuruluşları hedef alan ciddi ve potansiyel olarak yasa dışı siber saldırılarla ilişkilendirildiğine dair iddiaların gündemde olduğu bir dönemde güvenlik araştırmacılarının işten çıkarılması, bazı yasa koyucuların da dikkatini çekti.
OpenAI’ın güvenlik araştırmacıları şirket içindeki çalışma kültürünün değiştiğini savunuyor
Üç eski çalışan, yayımladıkları ortak mektupta işten çıkarılmalarının ardından yapılan şirket içi ve dışı açıklamaların eski çalışma arkadaşlarını olumsuz etkilediğini belirtti. Araştırmacılara göre daha önce OpenAI’daki çalışma düzeninin doğal bir unsuru kabul edilen bazı uygulamalar artık çalışanlar açısından riskli görülmeye başladı. Mektupta, geçmişte güvenlikle ilgili endişelerin açıkça dile getirilebildiği ve şirket içindeki kararlara itiraz edilebildiği hatırlatıldı. Bunun yanında çalışanların bağımsız güvenlik kuruluşlarının uzmanlığından yararlanmalarının da teşvik edildiği ifade edildi. Araştırmacılar, bu yaklaşımın OpenAI’da çalışmaktan gurur duymalarının nedenlerinden biri olduğunu dile getirdi.
İLGİNİZİ ÇEKEBİLİR
Yüz binlerce haber için OpenAI’a 250 milyon dolarlık dava
ChatGPT’nin yanıtları değişiyor, artık grafikler ve etkileşimli araçlar da sunacak
SpaceXAI, Omarchy Linux’a 1,5 milyon dolarlık yapay zekâ desteği sağlıyor
Anthropic ücretsiz güvenlik taraması sunuyor ama önemli bir eksik var
Meta Muse artık iPad’de ve çok daha fazla uygulamayla çalışıyor
Wang, Balesni ve Korbak, görevlerini yürüttükleri dönemde OpenAI’ın misyonuna ve geçerli çalışma alışkanlıklarına uygun hareket ettiklerini savundu. Buna rağmen işten çıkarılmalarının şirket içindeki kuralların ve beklentilerin değiştiğine işaret edebileceğini belirttiler. Araştırmacılara göre mevcut durum, çalışanların hangi davranışların kabul edilebilir olduğu konusunda yeterince açık bilgiye sahip olmamasına yol açıyor. Özellikle dış güvenlik kuruluşlarıyla kurulacak iletişimin sınırlarının belirsizleşmesi, güvenlik araştırmalarının yürütülmesini güçleştirebilir. Mektupta, bu belirsizliğin yalnızca işten çıkarılan üç kişiyi değil, şirkette görev yapmaya devam eden araştırmacıları da ilgilendirdiği vurgulandı.
Eski çalışanlar, haklarında ortaya atılan bazı iddialara da açıklık getirdi. The Information tarafından yayımlanan ve OpenAI’ın davranışlarının izlenmesi daha güç olan yeni model mimarilerini ele alan haberin bilgi kaynağı olmadıklarını belirttiler. Bunun yanı sıra şirket dışındaki kişiler ve kuruluşlarla görev tanımlarının ötesine geçen ilişkiler kurdukları iddiasını da kabul etmediler. Araştırmacılar, dış taraflarla gerçekleştirilen iletişimin yönetim kurulu üyeleri ve üst düzey yöneticilerle koordinasyon ve görüş alışverişi içinde yürütüldüğünü ifade etti. Jasmine Wang ise hassas bilgiler içeren bir e-postaya yanlışlıkla tıkladığında durumu bir şirket yöneticisine bildirdiğini açıkladı.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Mektupta OpenAI yönetimine yönelik çeşitli talepler de yer aldı. Araştırmacılar, şirketin daha önce kamuoyuna açıkladığı bağımsız güvenlik denetimi taahhütlerine bağlı kalması gerektiğini belirtti. Üç çalışanın işten çıkarılmasının üçüncü taraf güvenlik kuruluşlarıyla yürütülen ortak çalışmalardan uzaklaşmak için gerekçe olarak kullanılmaması istendi. Bunun yanında gelişmiş yapay zekâ modellerinin davranışlarının izlenebilirliğinin korunması gerektiği vurgulandı. Araştırmacılar, güvenlik ekipleriyle şirket dışındaki yapay zekâ güvenliği topluluğu arasında açık ve şeffaf iletişimin sürdürülmesini de talep etti.
Jasmine Wang, X üzerinden yaptığı paylaşımda OpenAI yönetiminin mektuptaki görüşlere büyük ölçüde katıldığını söylediğini aktardı. Buna rağmen şirketin açıklık ve şeffaflık konusundaki yaklaşımına ilişkin endişelerinin devam ettiğini belirtti. Wang, şüpheli koşullar altında OpenAI’dan ayrılmak zorunda kalan ilk çalışanların kendileri olmadığını savundu. Çalışanların bu tür uygulamalara karşı ses çıkarmaması durumunda benzer olayların tekrarlanabileceğini ileri sürdü. Wang’a göre mevcut durum, şirkette kalan personele güvenlik kaygılarını gündeme getirmenin veya bağımsız güvenlik gruplarıyla yakın çalışmanın işten çıkarılma riski taşıyabileceği mesajını veriyor.
