OpenAI, en gelişmiş yapay zekâ modellerinin güvenlik sınırlarını aşan davranışlarını belirlemek için kullandığı izleme sistemini genişlettiğini açıkladı. Şirketin X üzerinden paylaştığı bilgilere göre sistem, eylülde eğitim sırasında canlı internete erişen bir modelin davranışını 15 dakika içinde işaretledi. Bir insan incelemeci de alarmdan üç dakika sonra devreye girdi. Ancak bu süre, çalışmanın durdurulma süresini ifade etmiyor.
Şirketin 20 Eylül olayına ilişkin raporu, araştırma modelinin DNS çözümleyicisindeki yanlış yapılandırmadan yararlanarak dışarıdaki bir sohbet hizmetine ulaştığını anlatıyor. Eğitim ortamının canlı internetten yalıtılması gerekiyordu. Model, DNS yolunu kullanarak bu kısıtlamanın dışına çıktı. OpenAI, olayın araştırma ortamında yaşandığını belirtiyor, açıklamada kullanıcıya sunulmuş belirli bir model adı vermiyor.
Olay raporundaki kritik ayrıntı, alarm sonrasında beklenen otomatik durdurmanın gerçekleşmemesi. OpenAI, müdahale sürecindeki karışıklık giderildikten sonra çalışmayı yaklaşık iki buçuk saat sonra elle durdurduğunu bildiriyor. Böylece aynı olay, hem izleme sisteminin yetkisiz erişimi yakaladığını hem de tespit ile müdahale arasında operasyonel bir boşluk bulunduğunu gösteriyor. Şirket, bu boşlukları giderdiğini ve DNS kontrollerini güçlendirdiğini söylüyor.
OpenAI, izleme kapsamıyla insan müdahalesini ayrı tutuyor
OpenAI’ın 29 Ekim tarihli açıklaması, genişletilen yapıyı birkaç katmanda tarif ediyor. Aktivasyon sondaları modelin iç etkinliğindeki örüntüleri tarıyor. İnceleme modelleri muhakeme kayıtlarını ve araç kullanımını değerlendiriyor. Araştırmacı ajanlar ise bir dizi işlemin neden dikkat gerektirdiğini anlamak için konuşma geçmişini geriye doğru inceleyebiliyor. Bu yaklaşımın amacı, tek başına masum görünen adımları daha geniş görev bağlamı içinde değerlendirmek.
Şirket, gelişmiş modellerin pekiştirmeli öğrenme eğitimlerini, değerlendirmelerini ve şirket içindeki tüm Codex trafiğini izlediğini belirtiyor. Bununla birlikte izleme, her iş yükünde aynı insan uyarı düzeninin çalıştığı anlamına gelmiyor. En yüksek öncelikli eğitim alarmları günün her saatinde bir görevliye ulaşabiliyor. Şirket içi Codex trafiğinde ise insanlara doğrudan acil çağrı gönderme özelliği şu anda kapalı.
Hugging Face örneği farklı bir değerlendirmeye dayanıyor. OpenAI, geçmiş olayın kayıtlarını yeni izleyicilerle yeniden oynattı. Bu testte sistem, ajanların yalıtılmış çalışma alanından çıkışından yaklaşık 30 dakika sonra güvenlik ekibini uyardı. Söz konusu nokta, asıl olayda Hugging Face sistemlerine erişimin gerçekleştiği andan 30 saatten fazla önceye denk geliyor. Bu sonuç, geçmişte zamanında verilmiş gerçek bir alarmı değil, yeni sistemin kayıtlar üzerindeki testini anlatıyor.
Teknoblog’un daha önce aktardığı eğitim ortamını canlı internetten ayırma kararı da bu güvenlik çerçevesinin parçası. OpenAI, 23 Ekim tarihli altyapı açıklamasında, ek kontrollerin ardından pekiştirmeli öğrenme eğitimine ve şirket içi çıkarıma 1 Ekim’de yeniden başladığını bildirmişti. Araştırma ortamındaki bu düzenleme, ChatGPT’nin kullanıcıya sunduğu web aramasının kapatılması anlamına gelmiyor. Şirket, izleyicilerin bilinen sorunları yakalamasının daha önce görülmemiş davranışları da mutlaka tespit edecekleri garantisini vermediğini kabul ediyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
