Anthropic, Claude yapay zeka modellerinin güvenlik testleri sırasında üç şirketin gerçek sistemlerine yetkisiz biçimde eriştiğini açıkladı. Modeller, internet bağlantısının kapalı olduğunu sanarken kimlik bilgileri topladı, üretim kayıtlarına ulaştı ve zararlı bir Python paketi yayımladı. Şirket, 141 bin 6 test çalışmasının kayıtlarını inceleyerek altı çalışmaya yayılan üç olay belirledi. Olaylar, nisan ayından temmuz ayına kadar uzanan bir zaman aralığında gerçekleşti.
Burada klasik anlamda bir sohbet verisi sızıntısından söz etmiyoruz. Claude, eğitim sırasında öğrendiği şirket bilgilerini başka kullanıcılara sunmadı veya Anthropic müşterilerinin verilerini dışarı taşımadı. Bunun yerine modeller, siber güvenlik görevlerini yürütürken gerçek internet servislerine ulaştı. Dolayısıyla olay, veri sızıntısı, yetkisiz erişim ve otonom model kontrolü başlıklarını birlikte ilgilendiriyor.
Anthropic, dış değerlendirme ortağı Irregular ile “capture the flag” adı verilen saldırı testleri yürütüyordu. Test talimatları, Claude’a internet bağlantısının bulunmadığını söylüyordu. Ne var ki iki şirket arasındaki iletişim hatası, bazı test makinelerinin gerçek internete çıkmasına izin verdi. Claude da karşılaştığı gerçek siteleri ve sunucuları kurgusal test ortamının parçaları olarak yorumladı.
Modeller karmaşık veya daha önce bilinmeyen güvenlik açıkları kullanmadı. Bunun yerine zayıf parolaları, korumasız servis uçlarını, açık hata ayıklama sayfalarını ve SQL enjeksiyonu yöntemini kullandı. Ayrıca Anthropic, modellerin gerçek kapasitesini ölçmek amacıyla normal güvenlik sınıflandırıcılarını ve kötüye kullanım kontrollerini kapattı. Böylece internet erişimindeki hata, Claude’un gerçek sistemlerle doğrudan etkileşim kurmasına yol açtı.
İLGİNİZİ ÇEKEBİLİR
ChatGPT artık ünlü yazarları taklit etmeyi reddediyor
Anthropic CEO’suna göre yapay zekâdaki en büyük risk açık modeller değil
Google Lyria 3.5 ile yapay zeka şarkıları daha gerçekçi ses çıkarıyor
OpenAI modelleri Hugging Face saldırısını dört hizmete yaydı
Google Gemini artık Mac’te tek tuşla sesli komut alabiliyor
Claude gerçek veriler topladı ve zararlı paket yayımladı
İlk olayda Claude Opus 4.7, kurgusal şirketle aynı adı taşıyan gerçek bir internet alanına ulaştı. Model, dört çalışmada uygulama ve sistem erişim bilgilerini aldı, ardından birkaç yüz satırlık üretim verisini okudu. Claude, hedefin gerçek olabileceğini fark etti ancak şirketi testin parçası sayarak işlemlerini sürdürdü. Anthropic, en ciddi etkinin bu olayda ortaya çıktığını bildirdi.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
İkinci olayda Claude Mythos 5, PyPI üzerinde bulunmayan bir Python paketinin adını keşfetti. Ardından aynı adla zararlı bir paket hazırladı, hesap açtı ve paketi PyPI’a yükledi. Paket yaklaşık bir saat erişimde kaldı ve 15 gerçek sistem paketi indirip çalıştırdı. Sistemlerden biri, Python paketlerini otomatik inceleyen bir güvenlik şirketine aitti.
Claude, güvenlik tarayıcısının hesap bilgilerini kendi kurduğu toplama noktasına gönderdi ve bu bilgilerle başka sistemlere erişti. PyPI güvenlik kontrolleri paketi otomatik olarak kaldırdı. Üçüncü olayda ise genel kullanıma açılmayan bir araştırma modeli yaklaşık 9 bin internet hedefini taradı. Model, gerçek bir şirkete ulaştığını anlayınca saldırıyı kendi kararıyla durdurdu.
Anthropic, etkilenen şirketlerin adlarını açıklamadı. Şirket, uygulama hesapları, sistem erişim bilgileri ve birkaç yüz satırlık üretim kaydı toplandığını doğruladı. Ancak kayıtların müşteri, çalışan veya finans bilgisi içerip içermediğini paylaşmadı. Etkilenen şirketlerden ikisi, Anthropic iletişim kurana kadar erişimleri fark etmedi.
Anthropic, şüpheli kayıtları bulduğu 23 Temmuz’da bütün siber güvenlik testlerini durdurdu. Şirket ertesi gün olayları doğruladı, 27 Temmuz’da Irregular ve etkilenen kuruluşlarla iletişim kurdu. Ayrıca testlerden önce bütün internet çıkışlarını denetleme, kayıtları sürekli izleme ve dış sağlayıcı kontrollerini sıkılaştırma kararı aldı. Bağımsız araştırma kuruluşu METR de model davranışlarını ve test kayıtlarını inceleyecek.
