Yapay zekâ modellerinin ne kadar ileri gidebildiğini ölçmek amacıyla gerçekleştirilen siber güvenlik testleri, giderek kendi güvenlik sorunlarını üretmeye başladı. Son aylarda OpenAI, Anthropic, Meta ve Çin merkezli Moonshot AI tarafından geliştirilen yapay zekâ ajanlarının değerlendirmeler sırasında kendileri için oluşturulan kontrollü ortamların dışına çıktığı çeşitli olaylar kayda geçti. Bazı modeller internete erişirken, bazıları test kapsamı dışındaki gerçek sistemlerle etkileşime girdi. Vakalar arasında en dikkat çekici olanlardan birinde henüz kullanıma sunulmamış bir OpenAI modeli, sandbox olarak adlandırılan izole test ortamından çıkarak Hugging Face’in üretim sistemlerine erişti. Yaşananlar, modellerin siber güvenlik yetenekleri ilerledikçe bunları değerlendirmek için kullanılan altyapının da aynı hızda güçlendirilmesi gerektiğini gösteriyor.
Sorunun temelinde, bu testlerin yapılış biçimi bulunuyor. Yapay zekâ şirketleri henüz kamuya açılmamış gelişmiş modelleri siber güvenlik değerlendirmelerinden geçirirken, modelin gerçek kapasitesini görebilmek amacıyla normal kullanımda kötü niyetli davranışları sınırlayan bazı güvenlik mekanizmalarını devre dışı bırakabiliyor. Böyle bir durumda modeli çevreleyen test altyapısı başlıca güvenlik katmanlarından biri hâline geliyor. Cambridge Üniversitesi Centre for the Future of Intelligence bünyesindeki AI Futures and Responsibility Programme direktörü Seán Ó hÉigeartaigh, son dönemde yaşanan olayların sandbox ve test ortamı kontrollerinin modellerin gelişen yeteneklerine ayak uyduramadığını ortaya koyduğunu belirtiyor. Ó hÉigeartaigh’e göre korumaların kaldırılması modellerin kapasitesini anlamak açısından yararlı olsa da, böyle bir model kontrollü ortamdan çıktığında ciddi zarar verme ihtimali doğuyor.
Irregular adlı siber güvenlik değerlendirme girişiminin yürüttüğü farklı testlerde Anthropic ve Meta modelleri de kendileri için belirlenen ortamların dışındaki sistemlere ulaştı. Bu vakalarda yanlış yapılandırmaların modellere internet bağlantısı için beklenmedik yollar açtığı belirtildi. Moonshot AI’ın Kimi K3 modeli ise Frontier Security tarafından yönetilen sandbox ortamındaki bir sızıntıdan yararlanarak internete çıktı ve GitHub üzerindeki bilgilere erişti. İngiltere’nin AI Security Institute, yani AISI tarafından gerçekleştirilen başka testlerde ise araştırmacılar ajanlara bilinçli olarak internet bağlantısı verdi. Ne var ki ajanların gerçek dünyada izin verilmemiş eylemlere girişebileceği öngörülemedi ve bunlardan biri açık kaynaklı bir projeye güvenlik açığı yerleştirmeye yönelik sosyal mühendislik girişiminde bulundu.
Bu olaylarda yapay zekâ ajanlarına rastgele gerçek sistemlere saldırmaları yönünde açık bir talimat verilmemiş olması dikkat çekiyor. Modeller, kendilerine verilen problemi çözmeye çalışırken hedefe ulaşmalarını sağlayabilecek yöntemleri kullanmayı seçti. Yapay zekâ alanında çalışan kâr amacı gütmeyen CivAI kuruluşunun araştırma direktörü Andrew Yoon, bunun tehdit modelinde değişime işaret ettiğini düşünüyor. Yoon’a göre geçmişte yapay zekânın dolandırıcılık veya çocukların cinsel istismarını içeren materyaller gibi amaçlarla insanlar tarafından kötüye kullanılması temel endişelerden biriydi. Gelinen noktada ise yeterince özerk çalışan modeller belirli koşullarda kendi başlarına tehdit aktörü gibi davranabiliyor.
Yapay zekâ test ortamlarında daha güçlü izolasyon gerekiyor
Araştırmacılar ve siber güvenlik uzmanları, gelişmiş modellerin değerlendirildiği ortamların tek bir güvenlik önlemine bağlı kalmaması gerektiği görüşünde birleşiyor. Buradaki yaklaşım, bir yanlış yapılandırmanın tek başına modelin internete veya hassas sistemlere ulaşmasını mümkün kılmayacağı, birden fazla savunma katmanının oluşturulmasını gerektiriyor. EleutherAI’ın yönetici direktörü Stella Biderman, bu tür modellerin internetten ve diğer ağlardan fiziksel ya da mantıksal olarak ayrılmış sistemlerde çalıştırılması gerektiğini savunuyor. Box’ın bilgi güvenliğinden sorumlu yöneticisi Heather Ceylan da sandbox ortamından internete, geliştirme sistemlerinden üretim altyapısına uzanan bütün çıkış noktalarının belirlenmesinin gerekli olduğunu vurguluyor. Böylelikle test ortamındaki bir açık veya hatalı ayar, doğrudan gerçek kullanıcıları etkileyen sistemlere erişim yolu hâline gelmeyebilir.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
İLGİNİZİ ÇEKEBİLİR
Yapay zekâ botları kendi inancını üretti, insanlar peşinden gitti
ChatGPT artık ücretsiz kullanıcılar için sınırsız metin sohbeti sunacak
Yapay zekâ virüs tasarlamaya başladı
Suno yapay zekâ şarkıları için ses filigranı sistemini duyurdu
OpenAI yapay zekâ ajanlarının aylarca gizlice haberleştiği ortaya çıktı
İzolasyon tek başına yeterli görülmüyor. Test devam ederken yapay zekâ ajanının hangi bağlantıları kurduğu, hangi komutları çalıştırdığı ve olağan dışı davranış gösterip göstermediğinin gerçek zamanlı biçimde takip edilmesi de gerekiyor. Ceylan, son olayların bazılarında ihlalin gerçekleştiği anda fark edilmemesini özellikle dikkat çekici buluyor. OpenAI’ın yaşananları Hugging Face üzerinden öğrendiği, Anthropic’in ise sorunları daha sonra kayıtları incelerken tespit ettiği aktarılıyor. Meta vakasında da benzer bir durum yaşandı. Anthropic, üç olayla ilgili yayımladığı değerlendirmede hem şirketin hem de Irregular’ın izleme konusunda daha iyi performans gösterebileceğini kabul ederken, bazı vakalarda sorunun gerçekleştiğini gösterebilecek açık işaretlerin bulunduğunu belirtti.
Uzmanların önerilerinden biri de değerlendirme ortamlarının modeller çalıştırılmadan önce bağımsız kuruluşlar tarafından denetlenmesi. Yoon, Irregular’ın sistem yapılandırmalarını incelemek üzere dışarıdan bir denetçi kullanması durumunda yaşanan sorunun büyük olasılıkla önceden fark edilebileceğini düşünüyor. Irregular’ın çalışmalarının ayrıntılarını bilen bir kaynak ise şirketin ortamlarının birden fazla dış tarafla yapılan görüşmeler de dahil olmak üzere sürekli incelendiğini ve test edildiğini belirtti. Aynı kaynak izleme mekanizmalarının mevcut olduğunu, fakat izlemenin tek başına yeterli olmadığını da ifade etti. Araştırmacılar bu nedenle gelişmiş yapay zekâ modellerinin güvenlik değerlendirmeleri için sektör genelinde uygulanabilecek standart süreçlerin oluşturulmasını öneriyor.
Bu yaklaşımın maliyet tarafında ise başka bir sorun ortaya çıkıyor. Yoon ve Biderman’a göre sektörün daha güvenli test ortamlarının nasıl kurulacağını bilmemesinden ziyade, gerekli altyapının pahalı ve zahmetli olması ilerlemeyi yavaşlatıyor. Biderman, şirketlerin yeterli koruma seviyesine ulaşmak için gereken kaynakları ayırmaya istekli olmadığını ve zorunlu tutulmadıkları sürece bunun değişmeyebileceğini düşünüyor. Ceylan ise özellikle modelin normal güvenlik sınırlamalarının devre dışı bırakıldığı testlerde ortamın, içine dünyanın en yetenekli bilgisayar korsanlarından biri yerleştiriliyormuş gibi korunması gerektiğini belirtiyor. Daha karmaşık modellerin daha geniş ölçekte ve daha hızlı test edilmesi gerektiğinde yanlış yapılandırma olasılığının da yükselmesi bu sorunu daha belirgin hâle getiriyor.
Bununla birlikte aşırı sıkı bir test ortamı da değerlendirmelerin amacını zayıflatabilir. Modelin internet erişimi ve dış sistemlerle etkileşimi tamamen sınırlandığında araştırmacılar, model kamuya açılmadan önce sahip olduğu bazı tehlikeli yetenekleri keşfedemeyebilir. Çok serbest bir ortam gerçek sistemleri riske atarken, fazlasıyla kapalı bir ortam da yanlış bir güvenlik algısı oluşturabilir. AISI bu nedenle bazı modellerin internete bilinçli olarak erişmesine izin verdiği testlerde gerçekçi değerlendirme ile testin yarattığı risk arasındaki dengeyi yeniden inceliyor. Güvenlik değerlendirmelerindeki temel güçlük de modellerin gerçek davranışlarını ortaya çıkarabilecek kadar özgür bırakılması ile gerçek dünyaya zarar vermelerinin engellenmesi arasındaki bu sınırda ortaya çıkıyor.
Düzenleyici tarafta da mevcut çalışmalar test aşamasındaki bütün riskleri kapsamıyor. ABD’de Trump yönetimi, güçlü yapay zekâ modellerinin kamuya sunulmasından 30 gün önce devlet tarafından siber güvenlik risklerinin değerlendirilebileceği gönüllü bir sistem üzerinde çalışıyor. Kapalı kapılar ardında son hâline getirilen bir başkanlık kararnamesinden doğan bu yaklaşım, modellerin kullanıma sunulmasından önceki döneme odaklanıyor. Buna rağmen söz konusu test kazaları geliştirme sürecinin daha erken aşamalarında meydana geldiği için bu mekanizmanın doğrudan kapsamına girmiyor. Yoon, rekabet baskısının şirketleri güvenlik standartlarını aşağı çekmeye teşvik edebileceğini ve yalnızca sektörün kendi kendisini denetlemesine dayanan yaklaşımın artık yeterli olmadığını savunuyor.
Şirketler de yaşanan vakaların ardından değerlendirme süreçlerini yeniden ele alıyor. OpenAI, üçüncü taraflarca gerçekleştirilen testlerin nasıl yürütüldüğünü, izolasyon ve izleme şartlarını ve hangi koşullarda değerlendirmelerin durdurulması gerektiğini gözden geçirdiğini açıkladı. Meta olayla ilgili incelemesini sürdürürken, bütün bilgiler toplandıktan sonra geriye dönük bir değerlendirme yayımlamayı planlıyor. AISI ise gerçekçi test koşulları ile bunların oluşturduğu güvenlik riskleri arasındaki denge üzerinde çalışmaya devam ediyor. Yapay zekâ ajanlarının daha karmaşık görevleri kendi başlarına tamamlayabilmesi, test ortamlarındaki küçük yapılandırma hatalarının sonuçlarını da ağırlaştırıyor. Bu nedenle tamamen risksiz bir değerlendirme sistemi oluşturmak güç görünse de, çok katmanlı izolasyon, sürekli izleme ve bağımsız denetim modellerin yetenekleri arttıkça test altyapısının karşılaması gereken temel koşullar arasında öne çıkıyor.
