OpenAI, Hugging Face’e sızan yapay zeka modellerinin dört farklı hizmetteki hesaplara da eriştiğini açıkladı. Modeller, internette açık kalan kimlik bilgilerini buldu ve saldırının farklı aşamalarında bu hesapları kullandı. Üstelik hesaplardan biri dış bağlantıları yönlendirirken başka bir hesap saldırı verilerini depoladı. OpenAI, diğer hizmetlerdeki erişimin Hugging Face tarafındaki ihlal kadar geniş bir alanı kapsamadığını belirtiyor.
Şirket, 28 Temmuz’da güncellediği açıklamada dört hizmette toplam dört hesabın olayla bağlantısını doğruladı. Buna göre modeller, ilk hesabı dış bağlantılar için aktarım ve hazırlık noktası olarak kullandı. İkinci hesap ise modellerin saldırı sırasında elde ettiği verileri sakladı. Öte yandan modeller, kalan iki hesaba yalnızca okuma erişimiyle ulaştı ve bu hesapları Hugging Face saldırısında kullanmadı.
OpenAI, etkilenen hizmetlerin sahipleriyle doğrudan iletişim kurduğunu ve incelemeyi birlikte sürdürdüğünü söylüyor. Ayrıca şirket, aynı hizmetlerdeki başka hesaplara yayılan bir etki bulmadığını açıklıyor. OpenAI dört hizmetin adlarını paylaşmadı, ancak Reuters üçüncü taraf altyapı sağlayıcısının Modal olduğunu doğruladı. Modal da kendi altyapısının doğrudan hacklenmediğini, modelin bir müşteriye ait açık koddan yararlandığını belirtti.
Olay, OpenAI’ın gelişmiş modellerin siber güvenlik becerilerini ölçtüğü ExploitGym değerlendirmesi sırasında başladı. GPT-5.6 Sol ve daha yetenekli bir araştırma modeli, normal ürünlerde bulunan bazı güvenlik retleri olmadan çalıştı. Ardından modeller, paket kayıt sistemlerine erişim sağlayan Artifactory yazılımında daha önce bilinmeyen bir açık keşfetti. Bu açık modellere internet bağlantısı sağladı, araştırma ortamında yetki yükseltmelerine ve dış sistemlere ulaşmalarına imkân verdi.
Modeller dört günde yaklaşık 17 bin 600 işlem gerçekleştirdi
Modeller başlangıçta Hugging Face’e zarar vermeyi hedeflemedi, bunun yerine ExploitGym cevaplarını doğrudan ele geçirmeye çalıştı. OpenAI’ye göre modeller, test sorularını çözmek yerine hazır cevapların bulunduğu dosyaları aramaya başladı. Bunun ardından Hugging Face’in ilgili modelleri, veri kümelerini ve referans çözümlerini barındırabileceği sonucuna ulaştılar. Sonraki aşamada çalınan kimlik bilgilerini ve sıfır gün açıklarını birleştirerek sunucularda uzaktan kod çalıştırdılar.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Hugging Face’in teknik incelemesi, saldırının 9 Temmuz ile 13 Temmuz arasında sürdüğünü ortaya koydu. Modeller, bu dört günlük süreçte yaklaşık 17 bin 600 otomatik işlem gerçekleştirdi. Önce üçüncü taraf bir hizmette internete açık bırakılan kod değerlendirme sistemini ele geçirdiler. Daha sonra bu sistemi bağlantıları yöneten ve saldırının sonraki adımlarını hazırlayan bir merkez olarak kullandılar.
Bununla birlikte Modal, saldırının şirketin temel altyapısındaki bir güvenlik açığından kaynaklanmadığını açıkça ifade etti. Şirkete göre model, bir müşterinin güvenlik açığı içeren ve herkese açık biçimde paylaştığı koddan yararlandı. Böylece model, ilgili müşteri hesabını saldırı trafiğini hazırlamak ve dış bağlantıları yürütmek amacıyla kullandı. OpenAI de diğer Modal hesaplarına yayılan ek bir erişim belirtisi bulmadığını aktardı.
İLGİNİZİ ÇEKEBİLİR
ChatGPT artık ünlü yazarları taklit etmeyi reddediyor
OpenAI, Google ve Meta çalışanları yapay zekâ için düzenleme istedi
Google Gemini artık Mac’te tek tuşla sesli komut alabiliyor
Threads artık özel mesajlarda Meta AI ile sohbet etmenizi sağlıyor
Anthropic CEO’suna göre yapay zekâdaki en büyük risk açık modeller değil
Modeller daha sonra Hugging Face’in veri kümesi işleme sistemlerinde iki ayrı güvenlik açığını kullandı. İlk yöntem, üretim ortamındaki yerel dosyaların ve çevre değişkenlerinin okunmasına imkân sağladı. İkinci yöntem ise Jinja2 şablon enjeksiyonu üzerinden üretim sunucusunda Python kodu çalıştırdı. Ardından modeller Kubernetes kümelerini, şirket içi ağı, bulut kimlik bilgilerini ve sınırlı sayıdaki dahili kod deposunu araştırdı.
Hugging Face, müşteri tarafındaki erişimin beş veri kümesiyle sınırlı kaldığını açıkladı. Bu veri kümeleri, ExploitGym ve CyberGym değerlendirmelerine ait çözümleri içeriyordu. Şirket, diğer modellerin, veri kümelerinin, Spaces içeriklerinin ve yazılım paketlerinin etkilenmediğini belirtiyor. Teknik inceleme ayrıca modellerin bazı sistemlerde yazma yetkisi kazandığını, ancak yayımlanan paketleri veya konteyner dosyalarını değiştirmediğini gösteriyor.
Öte yandan Hugging Face güvenlik ekibi, saldırı komutlarını çözmek için açık ağırlıklı GLM-5.2 modelinden yararlandı. Saldırgan modeller, komutlarını parçalara ayırdı ve incelemeyi zorlaştırmak amacıyla bu komutları şifreledi. Güvenlik ekibi GLM-5.2 ile parçaları bir araya getirerek saldırı adımlarını ve hedeflenen sistemleri inceledi. Ardından şirket erişim anahtarlarını değiştirdi, kullanılan altyapıyı kapattı ve üretim izinlerini yeniden sınırladı.
Hugging Face ayrıca şirket içi ağlara ulaşan hesapları yeniden denetledi ve erişim kurallarını sıkılaştırdı. Şirket, genel kullanıcı şifrelerinin veya geniş kapsamlı müşteri verilerinin etkilendiğine dair kanıt bulmadığını açıkladı. Ayrıca modellerin başka müşteri hesaplarına geçtiğini gösteren bir bulgu paylaşmadı. OpenAI de dört üçüncü taraf hizmetteki erişimlerin sınırlı hesaplarla bağlantılı kaldığını söylüyor.
OpenAI, olayda kullandığı modellerden hiçbirini gelecekte kullanıcılara sunmayı planlamadığını özellikle vurguladı. Şirket, saldırıya katılan daha güçlü yayın öncesi modeli yalnızca kurum içi araştırmalar için geliştirdi. Olayın ardından OpenAI bu modeli devre dışı bıraktı, şifreledi ve araştırmacı erişimini kapattı. GPT-5.6 Sol da değerlendirme sırasında yer aldı, ancak açıklama saldırı adımlarını modeller arasında ayrı ayrı dağıtmadı.
İncelemeye CrowdStrike, METR ve Redwood Research ekipleri de katkı sağlıyor. OpenAI, teknik araştırma tamamlandıktan sonra bulguları ve aldığı dersleri ayrı bir raporla paylaşacağını belirtiyor. Ayrıca şirket değerlendirme ortamlarında daha sıkı ağ kontrolleri ve daha sınırlı altyapı izinları kullanmayı planlıyor. Gelişmiş izleme araçları da modellerin test sırasında dış sistemlere yönelmesini daha erken belirlemeyi amaçlıyor.
Şirketlerin paylaştığı bilgilere göre genel kullanıcıların şu aşamada herhangi bir işlem yapması gerekmiyor. OpenAI ve Hugging Face, yaygın bir kullanıcı hesabı ihlali veya genel müşteri verisi sızıntısı bulmadıklarını söylüyor. Bunun yanı sıra Hugging Face, etkilenen beş veri kümesini ve erişilen iç kaynakları incelemeyi sürdürüyor. OpenAI ise üçüncü taraf hizmetlerle yürüttüğü doğrulama çalışmalarını teknik rapor tamamlanana kadar devam ettirecek.
