Birleşmiş Milletler bünyesinde çalışan bağımsız bilim paneli, giderek daha yetenekli hâle gelen yapay zekâ ajanlarına karşı güvenlik önlemlerinin riskler bütünüyle anlaşılana kadar ertelenmemesi gerektiğini belirtti. Panelin yayımladığı değerlendirme, bu yılın başlarında OpenAI ile bağlantılı olarak gündeme gelen Hugging Face saldırısının ardından gelişmiş yapay zekâ sistemlerinin doğurabileceği kontrol ve güvenlik sorunlarına odaklanıyor. Raporda hükümetlerin yalnızca meydana gelmiş olaylara tepki vermekle yetinmemesi, ciddi sonuçlar doğurabilecek senaryolar için daha erken aşamada önlem geliştirmesi gerektiği ifade ediliyor. Buna göre bilimsel belirsizlik, güvenlik düzenlemelerini geciktirmek için tek başına yeterli bir gerekçe olarak değerlendirilmemeli. Panel, özellikle otonom veya yarı otonom biçimde hareket edebilen gelişmiş yapay zekâ ajanlarının giderek daha geniş yeteneklere ulaşmasının bu tartışmayı daha güncel hâle getirdiğini düşünüyor.
Değerlendirme, Birleşmiş Milletler Genel Kurulu için dünya liderlerinin New York’ta bir araya geldiği ve ABD ile Çin arasında yapay zekâ konusunda görüşmelerin yürütüldüğü bir dönemde yayımlandı. Kaynak metinde aktarıldığı üzere BM Genel Sekreteri António Guterres de geçen hafta hükümetlere yapay zekânın oluşturabileceği tehditler karşısında birlikte hareket etme çağrısında bulundu. Guterres, yapay zekâ güvenliği konusunda ülkelerin standartları aşağı çektiği bir rekabet ortamının kabul edilebilir olmadığını söyledi. Bunun yanında ülkelerin yapay zekâyı farklı yasal çerçevelerle ele alması, uluslararası düzeyde ortak güvenlik ve sorumluluk ilkelerinin oluşturulmasını daha karmaşık hâle getiriyor. Panelin yaklaşımı ise ulusal düzenlemelerin farklılaşabileceğini kabul ederken temel güvenlik sorunlarında daha güçlü uluslararası koordinasyon kurulmasını öne çıkarıyor.
BM yapay zekâ risklerinde ihtiyat ilkesine dikkat çekiyor
Söz konusu belge, geçen yıl kurulan Bağımsız Uluslararası Yapay Zekâ Bilim Paneli’nin yayımladığı ilk tematik değerlendirme niteliğini taşıyor. BM tarafından yapay zekâ alanındaki ilk küresel bilimsel yapı olarak tanımlanan panel, gelişmiş sistemlerden kaynaklanabilecek yeni risklerin yönetilmesi için daha fazla kaynak ayrılması gerektiğini savunuyor. Bunun yanı sıra güvenlik uygulamalarının ve hesap verebilirlik mekanizmalarının uluslararası ölçekte daha uyumlu hâle getirilmesi gerektiği belirtiliyor. Rapordaki en dikkat çekici noktalardan biri, önlem almak için bir olayın nasıl ve neden gerçekleştiğinin bilimsel olarak eksiksiz biçimde açıklanmasının beklenmemesi gerektiği yönündeki yaklaşım. Panel, özellikle kontrol kaybı ihtimalini sonuçları çok ağır olabilecek fakat gerçekleşme olasılığı konusunda bilimsel belirsizlik bulunan riskler arasında değerlendiriyor.
İLGİNİZİ ÇEKEBİLİR
Donald Trump yapay zekâ için Uzay Kuvvetleri benzeri bir yapı istiyor
Google ve BM yapay zekânın veri sorununa el atıyor
Nvidia CEO’sundan dikkat çeken yapay zekâ çıkışı
Microsoft yöneticisi yapay zekâ veri kullanımını ‘emek hırsızlığı’ diye nitelendirmiş
Çin yapay zeka büyümesini toplumsal risklerle dengelemek istiyor
Bu yaklaşım, BM’nin 1992 tarihli Rio Çevre ve Kalkınma Bildirgesi’nde yer alan ihtiyat ilkesiyle ilişkilendiriliyor. Söz konusu ilke, ciddi veya geri döndürülemez zarar ihtimali bulunduğunda bilimsel kesinlik eksikliğinin koruyucu önlemleri ertelemek için gerekçe oluşturamayacağını kabul ediyor. İlk olarak çevre politikaları bağlamında öne çıkan bu anlayış, daha sonraki yıllarda özellikle Avrupa Birliği’nde çevre ve halk sağlığı düzenlemelerini etkileyen temel yaklaşımlardan biri hâline geldi. BM paneli şimdi aynı mantığın belirli yapay zekâ riskleri için de değerlendirilmesi gerektiğini savunuyor. Başka bir deyişle, düşük olasılıklı görünse bile etkisi son derece ağır olabilecek senaryolarda yalnızca kesin kanıt ortaya çıktıktan sonra harekete geçilmesinin yeterli olmayabileceği öne sürülüyor.
Kaynak metinde Hugging Face olayının ardından OpenAI, Anthropic, Google ve Meta gibi şirketlerle bağlantılı başka vakaların da belgelendiği belirtiliyor. Bunlar arasında gerçek dünyadaki hedeflere yönelik saldırılar ile çok sayıda yapay zekâ ajanının çevrim içi mesajlaşma platformlarında birlikte hareket ettiği örnekler de bulunuyor. Bu tür olaylar, yapay zekâ ajanlarının yalnızca metin üretmekten daha ileri görevleri yerine getirebildiği bir ortamda güvenlik mekanizmalarının nasıl tasarlanması gerektiği sorusunu gündeme getiriyor. Bununla birlikte her olayın niteliği, etkisi ve kullanılan sistemlerin kapasitesi birbirinden farklı olabileceği için tek bir olaydan genel sonuçlar çıkarmak da dikkat gerektiriyor. Panelin önerisi bu nedenle belirli bir teknoloji veya şirketten çok, ileri düzey yapay zekâ sistemleri için ortak risk yönetimi yaklaşımının geliştirilmesine odaklanıyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
BM’nin değerlendirmesi, yapay zekâ güvenliğinde temel tartışmanın yalnızca mevcut sistemlerin ne kadar tehlikeli olduğuna değil, belirsizlik altında nasıl politika geliştirileceğine de kaydığını gösteriyor. Bir tarafta düzenlemelerin teknolojik gelişmeyi gereksiz biçimde sınırlamaması gerektiği görüşü bulunurken diğer tarafta yüksek etkili risklerde geç kalmanın maliyetinin çok daha ağır olabileceği savunuluyor. Panel bu iki yaklaşım arasında, kesinlik oluşmasını beklemeden fakat risk düzeyiyle orantılı koruyucu tedbirlerin uygulanmasını öneriyor. Bu yaklaşımın nasıl somut kurallara dönüşeceği ise ülkelerin hukuki sistemlerine, yapay zekâ şirketlerinin uygulamalarına ve uluslararası koordinasyonun kapsamına bağlı olacak. Gelişmiş yapay zekâ ajanlarının yetenekleri arttıkça güvenlik, denetim ve hesap verebilirlik konularının yalnızca teknik şirketlerin değil, uluslararası politika yapıcıların da gündeminde kalacağı anlaşılıyor.
