Süper yapay zekâ yasağı önerildi

ABD Senatörü Bernie Sanders ile Temsilciler Meclisi üyesi Greg Casar, “süper yapay zekâ” olarak tanımladıkları sistemlerin geliştirilmesini yasaklamayı amaçlayan bir yasa teklifi hazırladı. İki milletvekili ayrıca federal bir denetim kurumu kurulana kadar ileri yapay zekâ geliştirme çalışmalarına geçici ara verilmesini istiyor. Teklif henüz Kongre’den geçmiş bir yasa değil ve uzun bir siyasi süreçle karşı karşıya.

Sanders’ın ofisi tarafından yayımlanan açıklama, süper yapay zekâyı insanın genel bilişsel becerilerini aşabilecek sistemler üzerinden tanımlıyor. Tasarı, bu tür sistemlerin geliştirilmesi ve devreye alınması için kalıcı bir yasak hedefliyor. Daha geniş kapsamlı gelişmiş modeller içinse yeni güvenlik kuralları hazırlanana kadar süreli bir duraklama öneriyor.

Metin teknoloji şirketlerine yönelik güçlü yaptırımlar da öngörüyor. Tasarıyı hazırlayanlar, kurallara uymayan şirketlerin federal pazarda faaliyet göstermesini engelleyecek kadar ağır sonuçlar istiyor. Bunun yanı sıra geliştiricilerin güvenlik testleri, olay bildirimleri ve model yetenekleri konusunda yeni bir federal kuruma bilgi vermesi planlanıyor. Ayrıntılar teklif Kongre’ye sunulduğunda daha açık hâle gelecek.

Tartışmanın diğer tarafında, ileri yapay zekânın tıp, altyapı ve bilimsel araştırma gibi alanlarda önemli yararlar sağlayabileceğini savunan şirketler bulunuyor. OpenAI da yakın tarihli politika yazısında hızlı ilerlemenin ciddi riskler taşıdığını kabul ederken yeniliği tamamen durdurmak yerine devletler, şirketler ve araştırmacılar arasında ortak kurallar kurulmasını savunuyor.

İLGİNİZİ ÇEKEBİLİR

Süper yapay zekâ yasağı uzun bir siyasi sürece giriyor

Teklifin yasalaşması için hem Senato hem Temsilciler Meclisi’nden geçmesi ve başkanın imzasını alması gerekiyor. ABD Kongresi’nin yapısı düşünüldüğünde bu süreçte kapsamın daralması, geçici duraklama süresinin değişmesi veya tasarının komitede kalması mümkün. Bu yüzden bugünkü açıklamayı yürürlüğe girmiş bir yasak olarak okumamak gerekiyor.

Öte yandan girişim, yapay zekâ güvenliği tartışmasındaki tonun sertleştiğini açık biçimde gösteriyor. Daha önce şeffaflık, risk raporu ve bağımsız denetim üzerinde duran düzenlemeler şimdi belirli yetenek seviyelerini doğrudan yasaklama seçeneğini de masaya getiriyor. Bu değişim, model geliştiricilerinin yalnızca ürün güvenliğiyle değil hangi araştırma çizgisinin yasal kalacağıyla da ilgilenmesini gerektirebilir.

Uzun lafın kısası, Sanders ve Casar’ın çalışması şimdilik bağlayıcı bir sonuç doğurmuyor. Buna rağmen teklif, “kim denetleyecek, hangi eşik tehlikeli sayılacak ve küresel yarışta tek ülkenin yasağı işe yarayacak mı?” sorularını Washington’ın önüne koyuyor. Önümüzdeki aşamada tasarının kesin metni, komite görüşmeleri ve teknoloji şirketlerinin vereceği yanıtlar belirleyici olacak.

Tanım tartışması tasarının en zor bölümünü oluşturabilir. Bir modelin hangi testte insanı aşması gerektiği veya dar bir alandaki üstünlüğün genel süper zekâ sayılıp sayılmayacağı henüz ortak ölçüte bağlanmış değil. Açık ve denetlenebilir bir eşik kurulmazsa şirketler benzer yetenekleri farklı adlarla sunabilir. Kongre görüşmeleri bu teknik ayrımı hukuki dile çevirmek zorunda kalacak.