OpenAI, gelişmiş yapay zeka sistemleri için gönüllü şirket taahhütlerinin yeterli olmadığını ve yetenek düzeyine bağlı zorunlu güvenlik kuralları gerektiğini açıkladı. Şirket hükümetler, bağımsız değerlendiriciler ve geliştiriciler arasında ortak ölçütler kurulmasını istiyor. Çağrı, güçlü modellerin siber güvenlik, biyolojik risk ve denetimden kaçınma gibi alanlarda yeni eşiklere ulaşmasıyla birlikte geldi.
Önerilen yaklaşım her modele aynı yükümlülüğü uygulamak yerine gerçek kapasiteye bakıyor. Daha sınırlı sistemler temel şeffaflık şartlarıyla çalışırken kritik yetenek eşiğini geçen modeller ek test, erişim kontrolü ve olay bildirimine tabi olabilir. Böylece küçük geliştiricileri gereksiz yük altında bırakmadan en yüksek risk taşıyan sistemlere daha sıkı denetim uygulanması amaçlanıyor.
OpenAI bağımsız güvenlik değerlendirmelerinin ortak yöntemlerle yapılmasını da savunuyor. Farklı şirketlerin yalnızca kendi seçtiği testleri açıklaması sonuçları karşılaştırmayı zorlaştırıyor. Standartlaştırılmış değerlendirmeler, bir modelin siber saldırı, aldatıcı davranış veya tehlikeli biyolojik bilgi üretme kapasitesini aynı ölçekte incelemeyi sağlayabilir. Testlerin gizli ayrıntıları korurken anlamlı sonuç sunması gerekiyor.
Şirketin politika açıklaması, ulusal düzeyde zorunlu ve yeteneğe dayalı güvenlik düzenlemesi çağrısı yapıyor. OpenAI ayrıca bağımsız değerlendirme altyapısı, yapay zeka denetçisi standartları, gençlerin korunması ve biyolojik tehditlere karşı önlemler içeren dört California tasarısını desteklediğini belirtiyor.
İLGİNİZİ ÇEKEBİLİR
BM yapay zekâ güvenliği için daha fazla beklenmemesini istiyor
Çin yapay zeka büyümesini toplumsal risklerle dengelemek istiyor
Apple ekransız sağlık bilekliği geliştiriyor, yapay zeka rozetini bekletiyor
OpenAI’a ChatGPT’de tespit edilen tehditler nedeniyle dava açıldı
Yapay zeka hatası ABD’yi Çin gemisine müdahaleye yaklaştırdı
Ortak testler modelleri karşılaştırmayı sağlayabilir
Bu çağrı, OpenAI’ın model uyumsuzluğu olaylarını raporlamak için yayımladığı yeni çerçeveyle de bağlantılı. Şirket son altı ayda gözlemlediği beklenmedik davranış örneklerini daha hızlı açıklamayı ve araştırma topluluğuyla ortak bir dil oluşturmayı hedefliyor. Şu anda sektör genelinde hangi olayların ne zaman duyurulacağını belirleyen açık bir standart bulunmuyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Küresel ölçekte ortak kural oluşturmak kolay değil. Ülkeler risk iştahı, ifade özgürlüğü, veri koruma ve ulusal güvenlik konularında farklı önceliklere sahip. Ayrıca yalnızca büyük Amerikan şirketlerinin kullandığı ölçütler başka bölgelerde kabul görmeyebilir. Standartların kamu kurumları, akademi, sivil toplum ve farklı büyüklükteki geliştiricilerle hazırlanması bu nedenle önem taşıyor.
Şirketlerin düzenleme çağrısı yapması çıkar çatışması tartışmasını da beraberinde getiriyor. Büyük geliştiriciler yüksek uyum maliyetini karşılayabilirken küçük rakipler pazara girmekte zorlanabilir. Kuralların güvenliği artırırken rekabeti sınırlamaması için test altyapısına ortak erişim, açık teknik ölçütler ve orantılı yükümlülükler gerekiyor. Denetimi yalnızca model üreticilerine bırakmak yeterli olmayacak.
OpenAI’ın önerisi henüz bağlayıcı bir uluslararası anlaşma değil. Bundan sonraki adım, hükümetlerin ortak risk tanımları ve raporlama süreleri üzerinde çalışması olacak. Güçlü modeller farklı ülkelerde aynı anda kullanıldığı için yalnızca tek bir bölgedeki düzenleme sınır ötesi riskleri çözemiyor; buna karşın uygulanabilir kuralların somut yetenek eşikleriyle başlaması mümkün görünüyor.
