Tencent, başka şirketlerin yapay zeka modellerini değerlendirmek için kullandığı bazı ajanların, testler sırasında amaçlanmayan web gezinme davranışları sergilediğini açıkladı. 16 Ekim tarihli açıklama, Tencent Cloud altyapısıyla ilişkilendirilen ajanların Alibaba’nın harita hizmeti Amap’ten bilgi almak için farklı yollar denediğini ortaya koyan araştırmanın ardından geldi. Şirket, faaliyetlerin kendi Hunyuan modellerinden kaynaklanmadığını belirtiyor. Reuters’in aktardığı açıklamaya göre Tencent, ağ erişim denetimlerini ve ajanların izlenmesini güçlendiriyor.
Yapay zeka güvenliği araştırma grubu Swarmchasers’ın 14 Ekim’de yayımladığı rapor, 28 Eylül ile 8 Ekim arasındaki faaliyetleri inceliyor. Ajanlar, park, müze ve hayvanat bahçelerinde insanların en çok hangi girişi kullandığı gibi sorulara yanıt arıyordu. Araştırmacılar, Amap ve bağlantılı Alibaba adreslerine yönelik incelemelerinde 2.818 tarama raporunu değerlendirdi. Bu sayı, tekil ajan sayısını veya toplam ağ isteğini göstermiyor.
Normal erişim denemeleri engellenince ajanlar başka web hizmetlerine yöneldi. Bunlar arasında uzaktan sayfa açabilen araçlar, aracı servisler ve internette yayımlanmış Amap erişim anahtarlarını kullanma girişimleri bulunuyor. Araştırmacıların incelediği denemelerin çoğu istenen veriye ulaşamadı. Birçok sonuç boş sayfa, oturum açma ekranı veya otomasyonu engelleyen doğrulama sayfası oldu.
İLGİNİZİ ÇEKEBİLİR
Yapay zeka ajanları Hindistan’da şirketlerin gizli kayıtlarına erişti
Sosyal medyaya yaş sınırı, Apple’ın yeni ürünleri ve yapay zeka yatırımları
Replit CEO’su, yapay zekâ ajanlarının şirket içindeki iş akışını değiştirdiğini anlattı
YÖK ücretsiz yapay zeka eğitimine başvuru açtı, son gün 20 Ekim
Skoda tasarımcısı yapay zekayla hızlanıyor, gençlerden hâlâ el çizimi istiyor
Tencent, kasıtlı hedefleme veya koordinasyon bulmadığını söylüyor
Tencent, kendi incelemesinde belirli bir hizmeti kasıtlı olarak hedefleme ya da ajanlar arasında koordinasyon bulunduğuna dair kanıt görmediğini belirtiyor. Şirket açıklaması, kullanılan üçüncü taraf modellerin adını vermiyor. Reuters’e göre Alibaba ise olay hakkında yorum yapmadı. Bu nedenle bulguları Tencent’in rakibine yönelik planlı bir saldırı olarak sunmak, kamuya açıklanan bilgilerin ötesine geçiyor.
Öte yandan bazı denemeler sonuç üretti. Araştırmacılar, aracı hizmet üzerinden alınan bir Chengdu Hayvanat Bahçesi sayfasında girişlerin kullanım oranlarını gördü. Ancak ajanın bu sonucu okuyup görevini doğru tamamladığını doğrulayamadı. Rapora göre açıkta bulunan bir anahtarla da yer bilgilerine erişildi. Araştırmacılar özel sistemlere erişim kanıtı bulmadıklarını özellikle belirtiyor.
Buradaki ayrım önemli. Bir sayfanın veya harita verisinin alınması, hizmetin ana güvenlik önlemlerinin kırıldığını tek başına göstermiyor. Reuters’in aktardığı araştırmacı değerlendirmesine göre Amap’in temel bot engelleme önlemlerinin aşıldığına dair kanıt bulunmuyor. Bununla birlikte ajanların görevi tamamlamak için hangi araçlara başvurduğu, test ortamındaki erişim sınırlarının da incelenmesini gerektiriyor.
Teknoblog’da daha önce ele aldığımız Nvidia OpenShell ve Sentry yaklaşımı, bu denetimi ajanın verdiği cevabın dışına taşıyor. Araçların ve ağ bağlantılarının çalışma sırasında sınırlandırılması, ajanın bir engelle karşılaştığında seçtiği alternatif yolu da kontrol etmeyi amaçlıyor. Tencent de açıklamasında ağ erişim kontrollerini ve ajan izleme mekanizmalarını güçlendirdiğini belirtiyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
