OpenAI ile Polonya’nın NASK Ulusal Araştırma Enstitüsü, yapay zeka ve siber güvenlik araştırmaları için anlaşma imzaladı. Gelişmiş yapay zeka ajanlarının güvenliği tartışılırken ortaklık, modellerin yeteneklerini değerlendirme ve koruma önlemlerini güçlendirme çalışmalarını kapsıyor. Tarafların 23 Ekim duyurusu yeni bir araştırma iş birliğini anlatıyor, tamamlanmış bir güvenlik denetiminin sonuçlarını açıklamıyor.
Çalışmalar, NASK bünyesindeki Yapay Zeka Güvenliği Araştırma Merkezi üzerinden yürütülecek. Bu merkez Polonya’nın Yapay Zeka Güvenliği Enstitüsü işlevini de üstleniyor. Ortaklığın odağında giderek daha yetenekli hâle gelen sistemleri değerlendirme, olası açıkları belirleme ve güvenlik önlemlerini test etme yöntemleri bulunuyor.
NASK Direktörü Radosław Nielek, araştırma kapsamına sentetik içerik tespitini ve bu içeriklerin kötüye kullanımını da dahil ediyor. Farklı dillerde çalışan sistemlerde riskleri anlamak, merkezin üzerinde durduğu başlıklardan biri. Böylece değerlendirme yalnızca İngilizce örneklerle veya tek bir kullanım alanıyla sınırlandırılmıyor. OpenAI tarafında Avrupa, Orta Doğu ve Afrika politikalarından sorumlu Tom Duff Gordon, kuruluş dışındaki uzmanlığın modelleri sınamak için önemini vurguluyor. NASK’ın araştırma deneyimi bu bağımsız teknik katkının bir bölümünü oluşturacak. Ancak duyuru, ortakların bütün testlerini kamuya açacağına ilişkin ayrıntılı bir yayın takvimi vermiyor.
İki kuruluşun siber savunma alanında daha önce başlayan bağlantıları da var. Temmuz ayında NASK içinde faaliyet gösteren CERT Polska, Daybreak üzerinden OpenAI’ın siber yeteneklere sahip modellerine erişim aldı. Ekip bu araçların yardımıyla MikroTik RouterOS’ta altı güvenlik açığı buldu.
NASK, çok dilli riskleri ve sentetik içerikleri de inceleyecek
OpenAI’ın açıklamasına göre açıkların bazıları birlikte kullanıldığında etkilenen cihazlara kimlik doğrulaması olmadan erişim sağlayabilecek bir zincir oluşturuyordu. Üretici daha sonra düzeltmeleri yayımladı. CERT Polska da bu düzeltmelerin gözlemlediği saldırıları önlediğini doğruladı, bu sonuç yeni anlaşmadan önceki çalışmaya ait.
Bunun yanında OpenAI, yetenek ve risk değerlendirmelerinde, koruma testlerinde ve olay raporlamasında ortak yaklaşımları destekliyor. Ülkeler arasındaki bulguları karşılaştırabilmek, ulusal araştırma kurumlarının bu çalışmalara katılmasının amaçlarından biri. NASK’ın kamu hizmetleri ve Polonya’nın dijital bilgi ortamıyla ilgili uzmanlığı bu çerçeveye ekleniyor.
Anlaşma, Polonya’da veya Avrupa Birliği’nde yeni bir yasal yükümlülük getirmiyor. Belirli bir modelin risksiz olduğu ya da bütün güvenlik açıklarının giderildiği sonucunu da taşımıyor. Açıklanan sonraki adım, ortak değerlendirmeler ve koruma araştırmaları için iki tarafın teknik uzmanlığını bir araya getirmesi.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
