OpenAI, güvenlik ve emniyet uygulamalarında önemli değişikliklere giderek yeni bir bağımsız denetim komitesi kurduğunu duyurdu. Bu hamleyle dikkat çeken bir değişiklik de, CEO Sam Altman‘ın artık bu güvenlik komitesinde yer almaması oldu.
Yeni kurulan Güvenlik ve Emniyet Komitesi’ne (SSC), Carnegie Mellon Üniversitesi Makine Öğrenimi Bölümü Direktörü Zico Kolter başkanlık edecek. Komitenin diğer önemli üyeleri arasında Quora CEO’su Adam D’Angelo, emekli ABD Ordusu Generali Paul Nakasone ve Sony Corporation’ın eski Genel Danışmanı Nicole Seligman bulunuyor.
Bu komite, Haziran 2024’te kurulan ve Altman’ın da yer aldığı önceki Güvenlik ve Emniyet Komitesi’nin yerini alıyor. İlk komite, OpenAI’nin projeleri ve operasyonları için kritik güvenlik ve emniyet kararlarına yönelik tavsiyeler sunma görevini üstlenmişti.
İLGİNİZİ ÇEKEBİLİR
OpenAI ve Anthropic modelleri test sırasında gerçek sistemleri hedef aldı
OpenAI, Apple’ın ticari sır davasına özel mesajlarla karşılık verdi
OpenAI Apple’ın ticari sır davasına sert sözlerle karşı çıktı
OpenAI, işe alım ayrımcılığı iddialarında 3,2 milyon dolarlık uzlaşmayı kabul etti
Apple’dan OpenAI’a yeni ticari sır suçlamaları
Yeni SSC, yalnızca tavsiye vermekle sınırlı olmayacak; büyük model sürümleri için güvenlik değerlendirmelerini denetleme yetkisine sahip olacak ve model lansmanları üzerinde gözetim yapacak. Ayrıca, güvenlik endişeleri yeterince ele alınana kadar bir sürümü erteleme yetkisi de bulunacak.
Bu yeniden yapılandırma, OpenAI’ın yapay zeka güvenliğine yönelik taahhüdü konusunda artan eleştirilerin ardından gerçekleşti. Şirket, Superalignment ekibini dağıtması ve güvenliğe odaklanan kilit personelin ayrılması nedeniyle daha önce eleştirilmişti. Altman’ın güvenlik komitesinden çıkarılması, şirketin güvenlik denetiminde çıkar çatışması olasılıklarını gidermeye yönelik bir adım olarak görülüyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
OpenAI’ın son güvenlik girişimleri ayrıca güvenlik önlemlerini artırma, çalışmalarında daha fazla şeffaflık sağlama ve dış kuruluşlarla işbirliği yapma planlarını da içeriyor. Şirket, ABD ve Birleşik Krallık Yapay Zeka Güvenliği Enstitüleri ile, yapay zeka güvenliği risklerini ve güvenilir yapay zeka standartlarını araştırmak üzere işbirliği anlaşmalarına imza attı.
OpenAI güvenlik stratejilerini genişletiyor
Bu son adımlar, OpenAI’ın yapay zekanın güvenli ve şeffaf şekilde geliştirilmesine yönelik uzun vadeli hedeflerinin bir parçası olarak değerlendiriliyor. Güvenlik komitesinin daha fazla yetkiye sahip olması, yapay zeka modellerinin sorumlu bir şekilde piyasaya sürülmesini sağlamayı amaçlıyor.
