Anthropic’in güvenliği, Cathedral adlı girişimin yapay zeka ajanlarıyla şirketin bazı iş sistemlerine 12 saatten kısa sürede erişim yolları bulduğunu söylemesiyle yeniden tartışılıyor. Erişimin kapsamına ilişkin açıklamalar ise aynı noktada birleşmiyor. Anthropic sınırlı bir erişimi doğruluyor, ancak Claude kullanıcılarının konuşmalarının, kaynak kodunun ve model ağırlıklarının bu kapsamda bulunmadığını belirtiyor.
Araştırmacıların anlattığı yöntem, doğrudan bir yapay zeka modelini ele geçirmekten farklı. Ekip önce Anthropic’in kendi sistemlerine odaklanmış, ardından şirketin kullandığı üçüncü taraf idari ve satış yazılımlarına yönelmiş. İddia, bu araçlardaki zayıflıklar üzerinden iç iş sistemlerine uzanan yollar bulunduğu yönünde.
Cathedral, araştırmada yapay zeka ajanlarından yararlandığını ve veri erişimini mümkün olduğunca sınırlı tuttuğunu söylüyor. Şirketin değerlendirmesinde toplantı kayıtları, çalışanlara ilişkin iş bilgileri ve bazı iç yazışmalara ulaşabilen yollar yer alıyor. Ancak bu anlatım, bütün verilerin indirildiği veya şirketin bütün altyapısının ele geçirildiği anlamına gelmiyor.
Öte yandan Anthropic, araştırmanın ulusal güvenlik açısından anlamının abartıldığını savunuyor. Şirket, satış, insan kaynakları ve bilgi teknolojileri alanındaki sınırlı sayıdaki sistemden söz ediyor. Ayrıca araştırmacıların bütün test faaliyetlerini kendisine açıklamadığını belirtiyor. Bu nedenle olayın kapsamını aktarırken iki tarafın açıklamalarını birbirinden ayırmak gerekiyor.
Anthropic, erişimin müşteri sohbetlerini kapsamadığını söylüyor
Claude’a gönderilen mesajlar ve modelin verdiği yanıtlar, Anthropic’in erişilmediğini açıkladığı veriler arasında. Kaynak kodu ve model ağırlıkları için de aynı açıklama geçerli. Bu ayrıntı, olayı doğrudan “Claude sohbetleri sızdı” şeklinde sunmayı engelliyor. Şu aşamada böyle bir sonucu destekleyen doğrulanmış bilgi bulunmuyor.
Şirket, hareketliliğin bir bölümünü araştırmacıların bildiriminden önce fark ettiğini ve ilgili erişim yollarını kapattığını söylüyor. Güvenlik sorunu bulunan üçüncü taraf araçlarını da devre dışı bıraktığını belirtiyor. Bunun yanında federal yetkilileri olay hakkında bilgilendirdiğini aktarıyor.
Araştırma, dışarıdan güvenlik uzmanlarının açıkları bildirerek ödül kazanabildiği program bağlamında yürüdü. Ancak böyle bir programın bulunması, araştırmacıların sınırsız erişim yetkisi taşıdığı anlamına gelmiyor. Anthropic ile Cathedral arasındaki anlaşmazlığın bir bölümü de testlerin kapsamı ve bildirim süreciyle ilgili.
Mevcut açıklamalar, iş yazılımlarındaki erişim yollarının yapay zeka şirketleri için de önem taşıdığını gösteriyor. Buna karşın hangi müşterinin hangi verisinin etkilendiği konusunda yeni ve doğrulanmış bir liste bulunmuyor. Kullanıcı sohbetleriyle ilgili değerlendirme, şirketin açıkladığı sınırlar içinde kalıyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
