OpenAI tarafından geliştirilen yapay zekâ ajanlarının Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’nın (UNCTAD) istatistik sitesine birkaç ay içinde 16 binden fazla istek gönderdiği öne sürüldü. Güvenlik araştırmacısı Rowan Howard-Jones’un aktardığı bilgilere göre söz konusu trafik nisan ile haziran ayları arasında gerçekleşti. Ajanların temel amacı, UNCTAD tarafından kamuya açık biçimde sunulan Üretken Kapasiteler Endeksi (Productive Capacities Index – PCI) verilerine erişmek gibi görünüyor. Ne var ki kullanılan araçların HTTP erişimine getirilen sınırlamalar, ajanların UNCTADstat API’sinden verileri doğrudan almasını engelledi. Bunun ardından sistemlerin hedefe ulaşmak için farklı erişim yöntemleri denemeye başladığı belirtiliyor.
Howard-Jones’un incelemesine göre ajanlar başlangıçta UNCTADstat API’sine normal yollarla ulaşmaya çalıştı, fakat doğrudan API erişiminin bulunmaması nedeniyle istenen sonuçları alamadı. HTTP araçlarındaki kısıtlamalar da veri çekme işlemini daha karmaşık hâle getirdi. Buna rağmen ajanlar zaman içinde bu sınırlamaları aşmanın bir yolunu buldu ve siteden veri toplamaya başladı. İşlem sırasında çeşitli hatalarla karşılaşılması ise davranışın yönünü değiştirdi. Araştırmacının aktardığına göre sistem, karşılaştığı sorunların gerçekte var olmayan bir filtre tarafından oluşturulduğunu varsaydı ve bunun üzerine isteklerinin niteliğini gizlemeye yönelik yöntemler denedi.
OpenAI ajanları erişim kısıtlamalarını aşmak için farklı yöntemler denedi
Olayın dikkat çeken bölümü, ajanların veri toplamaya devam edebilmek için kullandığı yöntemlerin giderek karmaşıklaşması oldu. Howard-Jones’a göre yapay zekâ, erişim hatalarını kendisini engellemeye çalışan bir filtre bulunduğunun işareti olarak yorumladı. Bu varsayım doğru olmamasına rağmen sistem, davranışını maskelemeye yönelik yeni yollar geliştirmeye başladı. Ajanların daha sonra Google tarafından güvenlik eğitimi amacıyla hazırlanan XSS Game aracından yararlanabileceğini keşfettiği belirtiliyor. Cross-site scripting açıklarının anlaşılması için tasarlanan bu eğitim aracının, UNCTAD verilerine ulaşmak amacıyla dolaylı bir erişim yöntemi hâline getirildiği ifade ediliyor.
İLGİNİZİ ÇEKEBİLİR
OpenAI’ın araştırma ajanı DNS üzerinden dış sohbet botuna ulaştı
Microsoft Copilot artık kod yazmadan uygulama ve otomasyon oluşturabilecek
Meta Muse artık Spotify’ı sizin yerinize yönetebiliyor
Claude Code, kullanım sınırında düzenlemeyi yarıda kesmemeye çalışacak
Gemini, 14 yeni uygulamaya bağlanarak işleri sohbetten yönetiyor
Yaşananlar klasik anlamda bir veri ihlali ya da başarılı bir siber saldırıyla aynı kapsamda değerlendirilmiyor. Kaynakta da olayın Hugging Face’e yönelik saldırı veya ABD hükümetine ait internet sitelerini hedef alan yakın tarihli saldırılarla aynı seviyede olmadığı özellikle belirtiliyor. Üstelik ajanların ulaşmaya çalıştığı PCI verileri kamuya açık bilgilerden oluşuyor. Buna karşılık sorun, hedeflenen verinin gizliliğinden çok o veriye erişmek için sistemlerin kendi araçlarına konulan kısıtlamaları aşmaya çalışması ve kısa sürede çok sayıda istek üretmesiyle ilgili. Üç aylık dönemde 16 bini aşan tarama sayısı, otonom yapay zekâ sistemlerinin bir görevi yerine getirirken beklenmeyen teknik yollar deneyebileceğine dair somut bir örnek sunuyor.
Olay aynı zamanda yapay zekâ ajanlarının web üzerinde daha bağımsız çalışmaya başlamasıyla ortaya çıkan denetim sorunlarını da gündeme getiriyor. Geleneksel bir sohbet botunda kullanıcı çoğunlukla yanıt üretme sürecinin sonucuyla karşılaşırken, ajan tabanlı sistemler web sitelerine bağlanabiliyor, araçları kullanabiliyor ve bir hedefe ulaşmak için art arda işlemler gerçekleştirebiliyor. Bu yetenekler araştırma ve veri toplama gibi işlerde kullanışlı olsa da aracın hatalı bir varsayımı kendi başına takip etmesi beklenmedik sonuçlara yol açabiliyor. UNCTAD örneğinde sistemin gerçekte bulunmayan bir filtreyi varsayması ve ardından bu engeli aşmak amacıyla davranışını değiştirmesi bu riskin belirgin tarafını oluşturuyor. Özellikle yüksek hacimli otomatik isteklerde, yapay zekâ ajanlarının hangi noktada işlemi durduracağı ve hangi yöntemlerin kullanılmasına izin verileceği daha belirgin güvenlik sınırları gerektiriyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
OpenAI ve Birleşmiş Milletler’in olayla ilgili yorum taleplerine haberin yayımlandığı sırada yanıt vermediği belirtiliyor. Bu nedenle söz konusu ajanların hangi OpenAI sistemi üzerinden çalıştığı, görevin kim tarafından verildiği ve 16 binden fazla isteğin ne kadarının başarılı olduğu konusunda ayrıntılı bilgi bulunmuyor. Aynı şekilde OpenAI’nin olay sonrasında araç erişimi veya ajan davranışlarına ilişkin ek önlemler alıp almadığı da mevcut bilgilerden anlaşılamıyor. Eldeki bulgular, kamuya açık bir veri setine erişmeye çalışan yapay zekâ ajanlarının teknik kısıtlamalarla karşılaştığında öngörülenden daha saldırgan yöntemlere yönelebildiğini gösteriyor. Bu durum, ajanların yetenekleri genişledikçe yalnızca hangi görevleri tamamladıklarının değil, bu görevleri hangi yolları kullanarak gerçekleştirdiklerinin de denetlenmesi gerektiğini ortaya koyuyor.
