Microsoft’tan kritik uyarı: Yapay zekâ ajanları kurum içinde tehdit oluşturabilir

Microsoft, yayımladığı son Cyber Pulse raporunda iş yerlerinde hızla yaygınlaşan yapay zekâ ajanlarının yeni bir iç tehdit kategorisi oluşturabileceği konusunda uyarıda bulundu. Şirkete göre, kurum içinde görev yapan bir yapay zekâ asistanı, kötü niyetli kişiler tarafından manipüle edilerek adeta bir “çifte ajan”a dönüştürülebiliyor. Bu senaryoda saldırganlar, ajanın sahip olduğu erişim yetkilerini kötüye kullanabiliyor ya da güvenilir olmayan girdilerle sistemi yanıltarak kurum içindeki verilere ve iş akışlarına zarar verebiliyor. Microsoft, sorunun yapay zekânın yeni olmasından değil, kontrol ve denetim mekanizmalarının eşit düzeyde uygulanmamasından kaynaklandığını belirtiyor.

Şirketin değerlendirmesine göre, yapay zekâ ajanları birçok sektörde hızla devreye alınıyor. Fakat bazı uygulamalar BT ekiplerinin incelemesinden geçmeden kullanılmaya başlanıyor ve güvenlik ekipleri hangi ajanın hangi verilere eriştiğini tam olarak göremeyebiliyor. Bu görünmezlik, özellikle hafıza tutabilen ve otonom şekilde aksiyon alabilen ajanlar söz konusu olduğunda daha büyük risk oluşturuyor. Nitekim Microsoft Defender ekibinin incelediği yakın tarihli bir dolandırıcılık kampanyasında, “bellek zehirleme” yöntemiyle bir yapay zekâ asistanının saklanan bağlam bilgisi manipüle edildi. Bu müdahale sayesinde sonraki yanıtlar yönlendirildi ve sistemin çıktıları saptırıldı.

Microsoft yapay zekâ ajanlarını “dijital kimlik” sınıfı olarak görüyor

Raporda vurgulanan bir diğer konu ise dağıtım hızının güvenlik önlemlerinin önüne geçmesi. Kurumlar üretkenliği artırma hedefiyle ajanları hızla kullanıma sunarken, güvenlik ve uyumluluk kontrolleri geri planda kalabiliyor. Bu durum “gölge AI” olarak tanımlanan, onaylanmamış yapay zekâ araçlarının çalışanlar tarafından bağımsız şekilde kullanılmasına yol açıyor. Microsoft’un aktardığı araştırma verilerine göre, çalışanların yüzde 29’u, iş görevleri için onaylanmamış yapay zekâ ajanlarından yararlanmış durumda. Bu tablo, erken aşamada müdahaleyi zorlaştırıyor ve kötü niyetli manipülasyonların fark edilmesini güçleştiriyor.

Öte yandan tehdit yalnızca yanlış bir komut yazılmasıyla sınırlı değil. Bellek zehirleme kalıcı bir saldırı yöntemi olarak öne çıkıyor; sisteme yerleştirilen zararlı bağlam değişiklikleri, zaman içinde ajanın verdiği yanıtları etkileyebiliyor ve kuruma duyulan güveni aşındırabiliyor. Microsoft’un AI Red Team birimi, ajanların yanıltıcı arayüz unsurlarıyla kandırılabildiğini de tespit etti. Günlük içeriklerin içine gizlenen zararlı talimatlar ya da görev çerçevesini ince biçimde değiştiren yönlendirmeler, ajanın muhakeme sürecini farklı bir yöne çekebiliyor. Her ne kadar bu manipülasyonlar ilk bakışta sıradan görünebilse de, etkileri ciddi boyutlara ulaşabiliyor.

Microsoft, yapay zekâ ajanlarının basit bir yazılım eklentisi değil, yeni bir dijital kimlik sınıfı olarak ele alınması gerektiğini savunuyor. Bu kapsamda Zero Trust yaklaşımının benimsenmesi öneriliyor. Kimlik doğrulamanın sıkı tutulması, erişim yetkilerinin en düşük ayrıcalık prensibine göre sınırlandırılması ve davranışların sürekli izlenmesi temel önlemler arasında gösteriliyor. Bunun yanı sıra merkezi yönetim araçlarıyla tüm ajanların envanterinin çıkarılması ve hangi sistemlere erişebildiklerinin net biçimde belirlenmesi gerektiği ifade ediliyor.

Kurumsal yapay zekâ yatırımları artarken güvenlik mimarisinin aynı hızda güçlendirilmemesi, risk yüzeyini genişletiyor. Buna rağmen, doğru yapılandırılmış erişim politikaları ve sürekli izleme mekanizmalarıyla tehditlerin azaltılması mümkün görünüyor. Uzmanlar, yeni bir ajan devreye alınmadan önce hangi verilere erişeceğinin haritalandırılmasını, gereksiz izinlerin kaldırılmasını ve talimat manipülasyonlarını tespit edebilecek izleme sistemlerinin kurulmasını tavsiye ediyor. Güvenlik temelleri netleşmeden yapılan hızlı yaygınlaştırmalar ise kurumsal altyapıda öngörülmeyen açıklar oluşturabiliyor.