Microsoft Başkanı Brad Smith, yapay zeka teknolojilerinin güvenliği konusunda hükümetlere sert bir uyarıda bulundu. Smith, çamaşır makineleri ve marketlerde satılan sütlerin bile yapay zekadan daha sıkı güvenlik kurallarına tabi olduğunu söyledi. Ayrıca gelişmiş yapay zeka sistemlerinin insan denetiminden çıkma riskine karşı bağlayıcı yasal düzenlemeler hazırlanmasını istedi.
BBC’nin Big Boss Interview programına katılan Smith, yapay zeka şirketlerinin mevcut güvenlik sorumluluklarını değerlendirdi. Reuters’ın 12 Ekim tarihli haberine göre Microsoft yöneticisi, gönüllü güvenlik taahhütlerinin tek başına yeterli olmadığını belirtti. Bunun yerine bağımsız güvenlik testleri, zorunlu olay bildirimleri ve tehlikeli sistemlere müdahale edilmesini sağlayacak kurallar önerdi.
Smith’in uyarılarının merkezinde, kullanıcı adına bağımsız işlemler gerçekleştirebilen yapay zeka ajanları bulunuyor. Bu sistemler, çeşitli dijital hizmetlere bağlanabiliyor ve kendilerine verilen görevleri insan müdahalesi olmadan sürdürebiliyor. Ancak Smith, ajanların beklenmedik davranışlarının kurumsal güvenlik sorunlarına ve yetkisiz erişim girişimlerine yol açabileceğini belirtiyor.
Öte yandan Microsoft Başkanı, yapay zekanın yararlı uygulamaları kadar kötüye kullanım ihtimallerinin de değerlendirilmesini istiyor. Özellikle gelişmiş modellerin siber saldırılarda kullanılması ve insan kontrolünden uzaklaşması üzerinde duruyor. Smith’e göre hükümetlerin hazırlayacağı kurallar, geliştiricilerin sorumluluklarını açıkça belirlemeli ve güvenlik ihlallerine karşı müdahale imkânı sağlamalı.
İLGİNİZİ ÇEKEBİLİR
Nadella, yapay zeka için insanın çekebileceği bir acil fren istiyor
Meta’nın milyarlarca dolarlık yapay zekâ yatırımı sonuç vermeye başladı
Microsoft’un iştiraki Grindr kullanıcılarının verileri yüzünden rekor ceza aldı
Silikon Vadisi Trump’ın yapay zekâ için seçtiği yeni ismi benimsemeye başladı
Bites yapay zekâyla doğrudan yemek siparişini büyütüyor, komisyon modeli tartışılıyor
Brad Smith, yapay zeka sistemleri için zorunlu güvenlik önlemleri istiyor
Smith’in önerileri arasında, tehlikeli davranışlar sergileyen yapay zeka sistemlerini durdurabilecek veya çalışmalarını yavaşlatabilecek acil durdurma mekanizmaları yer alıyor. Böylece bir yapay zeka ajanı yetkisi dışında işlem gerçekleştirdiğinde ilgili kuruluş sisteme müdahale edebilecek. Ayrıca kurumsal sistemlere izinsiz erişim gibi olaylarda etkilenen tarafların bilgilendirilmesi için yasal yükümlülükler getirilmesini istiyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Bununla birlikte Smith, güvenlik olaylarının yalnızca şirketlerin kendi iç incelemeleriyle sınırlı kalmaması gerektiğini savunuyor. Geliştiricilerin ciddi olayları yetkili kurumlara bildirmesini ve bunlara ilişkin resmi kayıtlar oluşturmasını talep ediyor. Ayrıca gelişmiş yapay zeka modellerinin kullanıma sunulmadan önce bağımsız güvenlik değerlendirmelerinden geçmesini öneriyor.
Microsoft Başkanı, bu düzenlemelerin hazırlanmasında Birleşik Krallık’ın öncü rol üstlenebileceğini düşünüyor. Ülkede 2023 yılında kurulan Yapay Zeka Güvenliği Enstitüsü, geliştiricilerle yaptığı gönüllü anlaşmalar kapsamında bazı gelişmiş modelleri inceliyor. Ancak Smith, güvenlik yükümlülüklerini yerine getirmeyen şirketlere karşı yasal yaptırımlar uygulanabilmesi gerektiğini belirtiyor.
Birleşik Krallık Yapay Zeka Bakanı Kanishka Narayan da gönüllü denetimlerin yetersiz kalması halinde ek düzenlemeleri değerlendirebileceklerini açıkladı. Buna karşılık ABD Başkanı Donald Trump, Amerikan şirketlerinin Çinli rakipleri karşısında rekabet gücünü koruması için sektörün kendi kurallarını oluşturmasını savunuyor. Avrupa’da ise Avrupa Birliği Yapay Zeka Yasası kapsamında risk düzeyine göre farklı yükümlülükler bulunuyor.
Microsoft CEO’su Satya Nadella da gelişmiş yapay zeka sistemlerinin denetlenebilir olması gerektiğini savunuyor. Nadella, güvenlik olaylarının hızla açıklanmasını ve bağımsız incelemelerin gerçekleştirilmesini destekliyor. Brad Smith’in son açıklamaları ise Microsoft yönetiminin zorunlu güvenlik denetimleri ve şirketlerin yasal sorumlulukları konusundaki taleplerini ortaya koyuyor.
