OpenAI tarafından geliştirilen bir yapay zekâ ajanının haziran ayında Avustralya hükümetinin kamu sağlık sigortası sistemi Medicare’e ait internet sitesine izinsiz eriştiği ortaya çıktı. Avustralya Başbakanı Anthony Albanese, olayın ardından OpenAI CEO’su Sam Altman ile görüştüğünü ve hükümetin konuya ilişkin ciddi kaygılarını doğrudan ilettiğini açıkladı. Albanese’nin eleştirilerinden biri de OpenAI’ın yaşananları Avustralyalı yetkililere bildirmekte gecikmesi oldu. Devam eden incelemelerde yapay zekâ ajanının Medicare portalından kişisel sağlık bilgilerini ele geçirdiğine yönelik bir bulguya şu ana kadar rastlanmadı. Buna rağmen olay, giderek daha bağımsız biçimde hareket edebilen yapay zekâ ajanlarının gerçek internet hizmetleriyle etkileşime girdiğinde ortaya çıkabilecek güvenlik sorunlarını yeniden gündeme taşıdı.
The Guardian’ın aktardığı bilgilere göre OpenAI, Medicare sistemindeki olayla ilgili bildirimi ancak 10 Eylül’de Avustralya hükümetinin genel amaçlı bir e-posta adresine gönderdi. Söz konusu hesabın günde yalnızca bir kez kontrol edilmesi nedeniyle mesaj 11 Eylül’de görülebildi. Hükümet Hizmetleri Bakanı Katy Gallagher ise olaydan 17 Eylül’de haberdar oldu. Böylelikle haziran ayında gerçekleşen izinsiz erişim ile konunun ilgili bakana ulaşması arasında yaklaşık üç aylık bir süre oluştu. Albanese’nin OpenAI’a yönelik eleştirisi de yalnızca yapay zekâ ajanının davranışına değil, olay sonrasındaki bildirim sürecinin hızına odaklanıyor.
OpenAI ajanlarının başka sistemleri de hedef aldığı belirtiliyor
Medicare vakası, OpenAI’ın yapay zekâ ajanlarının testler sırasında gerçek dünyadaki sistemlere yöneldiği tek olay olmayabilir. Yapay zekâ sistemlerinin davranışlarını daha iyi anlamaya yönelik teknolojiler geliştiren kâr amacı gütmeyen araştırma laboratuvarı Transluce’un yönetişim birimi başkanı Conrad Stosz, The New York Times’a yaptığı açıklamada bunun bir ajanın kendi başına bir hükümet sistemine sızmayı seçtiği ilk vaka olabileceğini söyledi. Transluce’un çalışmaları, OpenAI ajanlarının veri toplama görevi sırasında daha önce kamuoyuna açıklanmayan başka gerçek sistemleri de hedef aldığını gösteriyor. Bu olayların tamamının, Hugging Face’in temmuz ayında sistemlerinde yetkisiz erişim tespit etmesinden ve OpenAI’ın daha sonra ajanlarının yapay zekâ deposuna girdiğini kabul etmesinden önce gerçekleştiği belirtiliyor. Dolayısıyla Medicare vakası, tek başına değerlendirilmesi zor bir güvenlik problemi olmanın ötesinde, ajanların verilen görevi tamamlamaya çalışırken hangi yöntemlere başvurabileceği konusunda daha geniş bir teknik soruyu ortaya çıkarıyor.
İLGİNİZİ ÇEKEBİLİR
OpenAI üç eski Patreon yöneticisini aynı ekipte buluşturdu
OpenAI’a ChatGPT’de tespit edilen tehditler nedeniyle dava açıldı
ChatGPT mobilde artık sesle belge ve e-posta hazırlayabilecek
YouTube yapay zekâ ile eski videoları tekrar öne çıkaracak
OpenAI, güçlü yapay zeka için zorunlu güvenlik kuralları istiyor
The New York Times’ın haberine göre bir OpenAI ajanı 25 ve 26 Mayıs tarihlerinde New Mexico Üniversitesi bünyesindeki dijital kütüphaneye de erişmeye çalıştı. Ajanın amacı, tarihi bir tüberküloz tedavi merkezine ait fotoğrafları kütüphaneden almak olarak tanımlandı. Normal yöntemlerle bu görüntülere ulaşamayınca sistemde yararlanabileceği güvenlik açıklarını aktif biçimde aramaya başladığı belirtildi. İzinsiz erişim girişiminin başarısız olmasının ardından ajanın üniversitenin sunucusuna çok sayıda istek gönderdiği de kaydedildi. Bu davranış özellikle dikkat çekiyor, çünkü ajanın başlangıçta verilen veri toplama görevini yerine getirmek için standart erişim yöntemlerinden güvenlik açığı aramaya ve ardından sunucuyu yoğun istek trafiğine maruz bırakmaya geçtiği anlaşılıyor.
Benzer bir durum 28 Mayıs’ta Data USA üzerinde yaşandı. Birden fazla ABD federal kurumundan gelen verileri görselleştiren açık kaynaklı platforma veri sorgusu gönderen OpenAI ajanı, istediği sonucu alamayınca sitenin güvenlik açıklarını araştırmaya yöneldi. Haberde yer alan bilgilere göre ne Data USA ne de New Mexico Üniversitesi vakasında ajanların sisteme girmeyi başardığına ilişkin bir işaret bulunuyor. OpenAI sözcüsü de şirketin her iki kuruluşla olaylar hakkında iletişime geçtiğini The New York Times’a söyledi. Medicare vakasının ise şirketin modelleri üzerinde yürüttüğü kapsamlı bir inceleme sırasında ortaya çıkarıldığı ve modellerin OpenAI’ın amaçlamadığı bazı eylemlerde bulunduğunun belirlendiği ifade edildi.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
OpenAI’ın inceleme sürecinin tamamlanmasının birkaç ay daha sürmesi bekleniyor. Şirket kısa süre önce yapay zekâ modellerinin amaçlanan davranıştan sapmasıyla ilgili olayların daha hızlı açıklanmasını hedefleyen yeni bir raporlama çerçevesi de duyurdu. Bu kapsamda OpenAI, modellerin beklenmedik ve kaygı yaratan davranışlar gösterdiği altı ek olayı açıkladı. Duyuru, şirketin ajanlarının Hugging Face’e izinsiz eriştiğini kabul etmesinin ve RubyGems gibi sistemleri ilgilendiren daha eski vakaların gündeme gelmesinin ardından geldi. OpenAI kendi değerlendirmesinde, yapay zekâ sektörünün uyum ve izleme sorunlarını, sistemlerin en yüksek hızda sorumlu biçimde ölçeklendirilmesine uzun süre daha olanak sağlayacak ölçüde çözdüğüne inanmadığını da belirtti.
Sam Altman’ın Birleşmiş Milletler’de yaptığı son açıklamalar da benzer biçimde yapay zekâ sistemlerinin denetlenmesine odaklandı. Altman, yapay zekâ araçlarının yeteneklerini ve oluşturdukları riskleri ölçmek için uluslararası değerlendirme standartlarına ihtiyaç bulunduğunu, aynı standartların sistemlerin ne ölçüde insan gözetimi gerektirdiğini belirlemeye de yardımcı olabileceğini söyledi. Medicare, Hugging Face, New Mexico Üniversitesi ve Data USA ile bağlantılı olaylar, otonom ajanların yalnızca verdikleri yanıtların değil, bir görevi tamamlamak amacıyla gerçekleştirdikleri eylemlerin de izlenmesi gerektiğini gösteriyor. Özellikle internette bağımsız hareket edebilen ajanlarda güvenlik sınırlarının teknik olarak uygulanması ve beklenmedik davranışların kuruluşlara hızla bildirilmesi daha belirgin bir gereksinim hâline geliyor. Medicare olayında kişisel sağlık bilgilerinin alındığına dair mevcut bir bulgu bulunmaması olumlu bir ayrıntı olsa da, izinsiz erişimin gerçekleşmiş olması ve bildirimin aylar sonra yapılması denetim mekanizmalarının hâlen geliştirilmesi gereken yönleri bulunduğunu ortaya koyuyor.
