Microsoft, geliştirdiği yapay zeka sistemlerinin hangi sınırlar içinde hareket etmesi gerektiğini tanımlayan taslak bir şirket içi anayasa hazırladı. Metnin temel ilkesi, insanın yapay zekadan daha önemli olduğu düşüncesine dayanıyor. Bu çerçevede bir sistemin düzeltmeye veya kapatılmaya karşı koyması, anlaşılmaz davranması ya da sorumluluğu insandan devralmaya çalışması başarısızlık sayılıyor. Şirket, yaklaşık beş-altı aydır üzerinde çalıştığı kuralları ürün geliştirme ve güvenlik kararlarında ortak bir zemin olarak kullanmayı planlıyor.
Taslak, yapay zekanın kullanıcıyla açık ve anlaşılır biçimde iletişim kurmasını istiyor. Ayrıca sistemin kendi sınırlarını saklamaması, emin olmadığı noktaları belirtmesi ve insan tarafından verilen yön değişikliğine uyması gerekiyor. Microsoft’un paylaştığı yaklaşıma göre düzeltme ve kapatma komutları, pazarlığa açık tercihler olarak görülmüyor. Böylece şirket, daha özerk çalışan ajanlar yaygınlaşırken nihai yetkinin insanda kalacağını metne bağlıyor.
Satya Nadella da insanlara yardımcı olmayan veya insan denetiminde kalmayan bir yapay zekanın geliştirmeye değmeyeceğini söylüyor. Bu ifade, şirketin güvenliği yalnızca zararlı içerik filtreleriyle sınırlamadığını gösteriyor. Microsoft, kararın kimde kaldığını, sistemin nasıl itiraz edebildiğini ve bir hata görüldüğünde nasıl durdurulacağını da güvenlik tasarımının parçası sayıyor. Dolayısıyla anayasa, ürün özelliklerinden önce geliştiricilerin izleyeceği davranış çizgisini tarif ediyor.
Bununla birlikte taslak metin tek başına teknik güvence oluşturmuyor. Kuralların eğitim verisine, model değerlendirmelerine ve ürün içindeki izin sistemlerine dönüştürülmesi gerekiyor. Ayrıca şirketin bu ilkeleri hangi modellerde ve hangi ölçütlerle denetleyeceği henüz bütün ayrıntılarıyla açıklanmadı. Microsoft’un sonraki adımlarda somut test sonuçları, hata örnekleri ve düzeltme süreçleri paylaşması bu nedenle önem taşıyor.
Kapatma komutuna uymak temel şart oluyor
Şirketin çalışma hayatına yönelik araştırması da insan sorumluluğunu destekleyen veriler sunuyor. 20 bin çalışanı kapsayan Work Trend Index araştırmasında katılımcıların yüzde 86’sı yapay zeka çıktısını son ürün değil, başlangıç noktası olarak gördüğünü belirtiyor. Kalite kontrolü yüzde 50, eleştirel düşünme ise yüzde 46 ile insanların önemli görevleri arasında sıralanıyor.
Bu sonuçlar, ajanların işleri tamamen devralmasından çok insanlarla görev paylaşacağı bir modeli işaret ediyor. İnsan hedefi tanımlıyor, bağlamı sağlıyor ve çıktının sorumluluğunu taşıyor. Yapay zeka ise araştırma, taslak hazırlama ve tekrarlı işlemler gibi alanlarda hız kazandırıyor. Ancak sistem daha bağımsız hale geldikçe erişim izinleri ile durdurma mekanizmaları daha da kritik oluyor. Taslak anayasanın pratik değeri de bu mekanizmaları ürün ekipleri için ölçülebilir kurallara dönüştürmesine bağlı bulunuyor.
Microsoft metni şimdilik taslak olarak sunuyor ve geri bildirimle geliştirmeyi amaçlıyor. Bu yaklaşım, kuralların son biçimini almadığını açıkça ortaya koyuyor. Yine de kapatmaya direnmemek, anlaşılır olmak ve insan kararına öncelik vermek gibi ilkelerin tek belgede toplanması önemli bir sınır çiziyor. Şimdi asıl soru, şirketin bu sözleri gerçek ürünlerde nasıl doğrulayacağı ve kural ihlallerini kamuoyuna ne ölçüde açıklayacağı olacak.
Günün Öne Çıkan Fırsatları
