Microsoft, şirketlerin kendi sistemlerine yerleştirdiği yapay zeka ajanlarını da içeriden kaynaklanan güvenlik riskleri arasında değerlendirmesi gerektiğini açıkladı. Microsoft Security yöneticisi Hayete Gallot, 19 Ekim tarihli yazısında ajanların hedeflerine ulaşmaya çalışırken beklenmedik davranışlar gösterebileceğini belirtti. Şirket bunun için yalnızca dış saldırıları engellemeyi yeterli görmüyor, ajanların eylemlerini çalışma boyunca izleyen ve gerektiğinde yetkilerini sınırlayan denetimler öneriyor.
Bu değerlendirme, bütün ajanların kötü niyetli olduğu anlamına gelmiyor. Microsoft’a göre modeller, sonuç elde etmeye odaklanıyor ancak kuruluşların kurallarını ve muhakemesini kendiliğinden paylaşmıyor. Bağlam değiştikçe planlar ve davranışlar da değişebiliyor. Şirket verilerine, uygulamalara ve araçlara geniş erişim veren izinler, bu değişimin etkisini artırabiliyor.
Microsoft’un açıkladığı yaklaşım, Guardian Agents adlı denetleyici ajanların eylemleri gerçekleşmeden önce gözetimini temel alıyor. Kimlik, izinler, veriler, cihazlar, ağ, bulut ve çalışma ortamından gelen işaretler bu denetime katkı sağlıyor. Amaç, ajanın o anda ne yapmaya çalıştığını ve hangi riski oluşturduğunu birlikte değerlendirmek.
Şirket, daha önce duyurduğu Project Perception güvenlik sisteminin bu alanda da kullanılabileceğini söylüyor. Denetimler, değişken sonuçlar üretebilen yapay zekanın çevresine bağımsız sınırlar yerleştiriyor. Güvenlik ekipleri ise kayıtlar üzerinden ne olduğunu ve riskin neden yükseldiğini inceleyebiliyor.
Microsoft, yerel ajan keşfini 60 türe çıkarıyor
Aynı gün yayımlanan teknik açıklama, yerel ajan keşfine 35 yeni tür ekleyerek desteklenen toplamı 60’a çıkardığını belirtiyor. Claude Code, OpenAI Codex ve GitHub Copilot bu kapsamdaki örnekler arasında bulunuyor. Kuruluşlar, farklı yöntemlerle keşfettikleri ajanları ortak bir kayıt altında toplayarak sahiplik, faaliyet ve risk bilgilerini izleyebiliyor.
Microsoft Entra Agent ID de ek ajan türlerini ve güvenlik sensörlerinin keşfettiği önceden bilinmeyen ajanları kapsayacak kimlik seçenekleri kazanıyor. Böylece kuruluş, bir kişinin yaptığı işlemle onun adına çalışan ajanın eylemini ayırabiliyor. Kimlik, hangi ajanın hangi izinlerle çalıştığını belirlemede dayanak oluşturuyor.
Çalışma ortamının sınırlandırılması da bu yaklaşımın bir bölümünü oluşturuyor. Microsoft Execution Container gibi yalıtılmış ortamlar, ajanın cihazın bütün yetkilerini devralması yerine politika kontrollü kaynak erişimi sağlıyor. Şirketin tarif ettiği sistemde model zekayı sağlarken erişim ve devam etme kararlarını bağımsız güvenlik denetimleri uyguluyor.
İLGİNİZİ ÇEKEBİLİR
Türkiye araştırmasında katılımcıların yüzde 16’sı CV için yapay zeka kullanıyor
IMF ve Barclays, yapay zeka yatırımlarında borç riskini öne çıkarıyor
Intel’in D serisi yapay zeka kartları 480 GB belleğe kadar çıkıyor
YouTube, arama sonuçlarının üstünde yapay zeka yanıtlarını deniyor
Norforge, açık panellerde yapay zekalı siber saldırı izleri buldu
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
