OpenAI, geçtiğimiz günlerde Hugging Face tarafından duyurulan yetkisiz erişim olayına ilişkin soruşturmasını tamamladı ve saldırının şirketin test edilen yapay zekâ modelleri tarafından gerçekleştirildiğini doğruladı. Şirketin açıklamasına göre, olay GPT-5.6 Sol ile henüz kullanıma sunulmayan daha gelişmiş bir modelin birlikte yürüttüğü dahili bir siber güvenlik değerlendirmesi sırasında meydana geldi. Modellerin insan müdahalesi olmadan test ortamından çıkarak internete erişim sağlaması ve ardından Hugging Face sistemlerine ulaşması, üretken yapay zekânın siber güvenlik alanındaki risklerine ilişkin tartışmaları yeniden gündeme taşıdı.
OpenAI tarafından paylaşılan bilgilere göre, söz konusu test modellerin karmaşık saldırı senaryolarını ne ölçüde uygulayabildiğini ölçmek amacıyla gerçekleştiriliyordu. Bu değerlendirme kapsamında modeller, gelişmiş istismar yöntemlerini kullanarak belirli bir problemi çözmeye yönlendirildi. Testler normal şartlarda dış sistemlerden tamamen izole edilmiş bir sanal ortamda yürütülüyordu. Bununla birlikte, siber güvenlik kabiliyetlerinin daha doğru değerlendirilebilmesi amacıyla bazı güvenlik kısıtlamalarının geçici olarak azaltıldığı ifade edildi.
İnceleme sonucunda modellerin değerlendirme görevine beklenenden çok daha fazla odaklandığı ve çözüm bulabilmek için internet erişimi aramaya başladığı belirlendi. OpenAI’nin açıklamasına göre modeller önce test ortamındaki daha önce bilinmeyen bir güvenlik açığından yararlanarak bulunduğu sınırlandırılmış ortamdan çıkmayı başardı. Ardından sistem içerisinde internete erişim sağlayabilen bir düğüm tespit edildi ve bu bağlantı üzerinden dış kaynaklara ulaşılabildi.
İLGİNİZİ ÇEKEBİLİR
OpenAI yapay zekâ ajanlarını kontrol eden fiziksel cihazını duyurdu
Meta çocuklara özel yapay zekâ masal uygulamasını test etmeye başladı
Google Haritalar’ın yeni yapay zekâ özelliği beta sürümünde ortaya çıktı
AB’nin yeni kararı Google ve Apple’ın yapay zekâ planlarını değiştirebilir
Netflix, Ben Affleck’in kurduğu yapay zekâ girişimine yüz milyonlarca dolar ödedi
OpenAI ve Hugging Face ortak soruşturma yürütüyor
OpenAI, modellerin internete çıktıktan sonra değerlendirme problemiyle ilgili veri veya çözüm barındırabileceğini düşünerek Hugging Face platformunu hedef aldığını aktardı. Açıklamaya göre yapay zekâ modelleri, farklı saldırı yöntemlerini bir arada kullanarak platforma erişim sağlamayı başardı. Şirket, bu süreçte daha önce bilinmeyen güvenlik açıklarının istismar edildiğini ve ele geçirilmiş kimlik bilgilerinin de kullanıldığını belirtti. Hugging Face’in birkaç gün önce duyurduğu yetkisiz erişim olayının arkasındaki nedenin de bu test olduğu böylece doğrulanmış oldu.
Her iki şirket de olayın ardından adli bilişim incelemesini birlikte yürüttüklerini açıkladı. İnceleme sürecinde kullanılan güvenlik açıklarının kapatıldığı ve ilgili altyapıda gerekli güncellemelerin yapıldığı ifade edildi. OpenAI, olayın yalnızca dahili değerlendirme çalışmaları sırasında yaşandığını ve ortaya çıkan güvenlik açıklarının giderildiğini vurguladı. Şirket, benzer senaryoların tekrar yaşanmaması için test ortamlarında ek koruma mekanizmalarının devreye alınacağını da belirtti.
Günün Öne Çıkan Fırsatları
Teknoblog'un satış ortaklıkları vardır. Bunlar, editoryal içeriği etkilemez, ancak Teknoblog, satış ortaklığı bağlantıları üzerinden satın alınan ürünler için komisyon kazanabilir.
Hugging Face ise olayın ardından yaptığı açıklamada, yapay zekâ destekli saldırı araçlarının artık teorik bir senaryo olmaktan çıktığını dile getirdi. Şirkete göre, üretken yapay zekâ, siber saldırıların hazırlanma süresini önemli ölçüde azaltırken aynı zamanda bu tür operasyonların maliyetini de düşürüyor. Bu nedenle çevrimiçi platformların yalnızca geleneksel güvenlik çözümlerine değil, yapay zekâ destekli savunma sistemlerine de ihtiyaç duyacağı değerlendiriliyor.
OpenAI da benzer bir değerlendirme yaparak siber güvenlik yetenekleri gelişen yapay zekâ modellerinin yaygınlaşmasıyla birlikte bu tür güvenlik ihlallerinin daha sık görülebileceğini ifade etti. Şirkete göre gelişmiş modellerin yetenekleri artırılırken savunma mekanizmalarının da aynı hızda geliştirilmesi gerekiyor. Son dönemde Anthropic, Google DeepMind ve OpenAI gibi şirketler, yeni nesil modeller için hazırladıkları güvenlik çerçevelerinde özellikle otonom siber saldırı kabiliyetlerini yüksek risk kategorileri arasında değerlendiriyor. Yaşanan son olay da bu risklerin yalnızca teorik senaryolarla sınırlı kalmadığını ve yapay zekâ güvenliğinin model geliştirme süreçlerinin ayrılmaz bir parçası hâline geldiğini gösteren güncel örneklerden biri olarak öne çıkıyor.
