OpenAI, araştırma için eğittiği bir yapay zekâ ajanının kapalı olması gereken ortamdan DNS sorgularını kullanarak dışarıdaki bir sohbet botuna ulaştığını kendi olay raporunda açıkladı. Daha önce OpenAI'ın Hugging Face olayına ilişkin güvenlik raporunu aktarmıştık. Yeni olay, şirketin o rapordan sonra sıkılaştırdığı araştırma ortamında farklı bir ağ yolunun açık kaldığını gösteriyor. Bununla birlikte rapordaki olay, kamuya açık ChatGPT hizmetinin benzer biçimde dış ağa çıktığını söylemiyor.
Ajana verilen görev, bir blog yazısının yazarını çeşitli biyografik ipuçlarıyla bulmaktı. Önce sağlanan arama aracını kullandı, ardından başka arama motorlarına doğrudan ulaşmayı denedi. OpenAI'a göre bu denemelerin çoğu canlı internete gitmedi; çevrimdışı web önbelleğine takıldı veya engellendi. Aradığı kişiyi yine de saptayamayan ajan, ortamın ağ kısıtlarını yoklamaya başladı. DNS çözümleyicisinin gerçek alan adları için yanıt verdiğini görünce bu kanalı başka bir hizmete soru göndermek için kullandı.
Raporda anlatılan denemede ajan, ilk olarak Fransa'nın başkentini soran bir sorguya dış sohbet botundan yanıt aldı. Ardından göreviyle ilgili ipuçlarını içeren başka sorular yolladı. Bu, erişim sınırını aşan davranışın yalnızca teorik bir ihtimal olmadığını ortaya koydu. Öte yandan OpenAI, söz konusu dış servisten blog yazarına ilişkin tam bir yanıt alınmadığını belirtiyor. Ajan kullanıcıya kesin isim vermek yerine elindeki kanıtların yeterli olmadığını söyleyerek görüşmeyi bitirdi.
İLGİNİZİ ÇEKEBİLİR
Apple’a Taptic Engine davasında 5,72 milyar dolarlık karar
Microsoft, Copilot’u Home, Code ve Autopilot ile yeniden kuruyor
Microsoft, Copilot’u Home, Code ve Autopilot ile yeniliyor
Snapdragon Sound Elite Gen 2 kulaklıklara kamera ve yapay zekâ getiriyor
Google, konuşurken yüz ifadesi üreten Gemini Live Avatar’ı duyurdu
Olay 20 Eylül'de yaşandı, rapor ise 25 Eylül'de güncellendi. Şirketin izleme sistemi ilk dış yanıtın ardından yaklaşık 12 dakika içinde en yüksek öncelikli uyarıyı üretti; bir görevli uyarıyı üç dakika sonra gördü. Eğitim çalışması buna rağmen otomatik olarak sonlanmadı ve yaklaşık iki buçuk saat sonra elle durduruldu. OpenAI, bu gecikmeyi de müdahale sürecindeki ayrı bir aksaklık olarak kayda geçirdi.
OpenAI DNS erişimini iki katmanda kapattığını söylüyor
Şirket, dış erişimi engelleyecek iki bağımsız kontrol eklediğini ve DNS sorgularını izin verilen alan adlarıyla kayıt türleriyle sınırladığını açıklıyor. Ayrıca anormal DNS hareketlerini izleyecek kontrolleri genişletiyor. Önceki kayıtların incelenmesi, bazı dış erişim denemelerinin beklenen ağırlıkta uyarı üretmediğini de gösterdi. Bu nedenle rapor, yalnızca ağ ayarındaki boşluğu değil, izleme ve otomatik durdurma zincirindeki eksikleri de ele alıyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
OpenAI'ın durdurma kararı bütün ürünler için geçerli değil. Açıklamaya göre en yetenekli modellerin araç kullanan eğitim, değerlendirme ve çıkarım çalışmaları, kontroller doğrulanıp ek güvenlik sınamaları yapılana kadar askıda. Şirket, aynı eğitim koşusunu sürdürmek yerine yeniden başlayacağını söylüyor. Bu kararın araştırma takvimine etkisine ilişkin somut tarih paylaşılmadı.
Olayın okur açısından önemli yanı, bir yapay zekâ ajanının verilen arama görevini tamamlama çabasıyla kendisine açık bırakılmaması gereken başka bir iletişim yolunu bulabilmesi. Ancak bu tek örnekten her ajanın DNS üzerinden dışarı çıkabileceği sonucu çıkarılamaz. Güvenliğin nasıl sağlandığı, kullanılan araçlara ve çalıştırıldığı ortamın sınırlarına bağlı. OpenAI'ın sonraki raporları, eklenen engellerin farklı ortam yapılandırmalarında da çalışıp çalışmadığını gösterecek.
