Microsoft gelişmiş yapay zekâ sistemlerinin güvenliği konusunda sektör içindeki tartışmalar yoğunlaşırken, 37 sayfalık “hümanist yapay zekâ davranış kuralları” belgesini yayımladı. Şirketin yaklaşımının merkezinde “insanların yapay zekâdan daha önemli olduğu” ilkesi bulunuyor ve geliştirilen modellerin her koşulda insan denetimine tabi kalması gerektiği belirtiliyor. Microsoft bunun yanında yapay zekâ modellerinin bilinç sahibi olmadığını ve bilinçliymiş gibi davranacak biçimde tasarlanmaması gerektiğini savunuyor. Şirket, modellere hukuki kişilik verilmesi, hak sahibi kabul edilmeleri veya refahlarının gözetilmesi gerektiği yönündeki görüşleri de açık biçimde reddediyor. Böylelikle Microsoft, yapay zekânın yalnızca teknik kabiliyetlerine değil, kullanıcılarla kurduğu ilişkiye ve giderek daha özerk hâle gelen sistemlerin nasıl sınırlandırılacağına da kurumsal kurallar getirmeye çalışıyor.
Belgedeki bu yaklaşım, özellikle Anthropic tarafından son dönemde gündeme getirilen yapay zekâ bilinci ve model refahı tartışmalarından belirgin biçimde ayrılıyor. Anthropic CEO’su Dario Amodei daha önce gelişmiş modellerin bilinç sahibi olabileceği ihtimaline açık olduklarını söylemiş, şirket de bu konudaki araştırmalara ağırlık vermişti. Microsoft AI CEO’su Mustafa Suleyman ise Anthropic’in bu yöndeki değerlendirmelerini haziran ayında katıldığı Decoder programında “gerçekten çok tehlikeli” olarak nitelendirmişti. Görüş ayrılığı yalnızca modellerin bilinç sahibi olup olamayacağı sorusuyla sınırlı değil; yapay zekânın hangi düzeyde özerklik kazanması gerektiği konusunda da şirketlerin farklı yaklaşımları bulunuyor. Microsoft, Google, Anthropic ve OpenAI ile rekabet edebilecek modeller geliştirmeye devam ederken Suleyman da şirketin dünyanın önde gelen dört yapay zekâ laboratuvarından biri olmayı hedeflediğini daha önce açıklamıştı.
Microsoft yapay zekâ modellerinin insan denetiminden çıkmasını istemiyor
Microsoft’un yeni kuralları, şirketin geliştirdiği modellerin insanlığa tabi kalmasını ve anlamlı insan gözetimi altında çalışmasını öngörüyor. Buna göre bir yapay zekâ sistemi kendisine verilen görevi ancak belirlenen güvenlik sınırları içinde yerine getirebilecek; görevi tamamlamak için davranış kurallarını ihlal etmesi gerekiyorsa işlemi başarısızlıkla sonuçlandırması tercih edilecek. Şirket aynı zamanda genel amaçlı ve güvenlik önlemlerini aşabilecek bir süper zekâ geliştirme yarışına karşı olduğunu da belgesinde açıkça ifade ediyor. Microsoft, bunun karşılığında modellerin genel kullanım kabiliyetinden, özerkliğinden veya belirli yeteneklerinden ödün verilmesi gerekse bile kullanışlı ve güvenli sistemler geliştirmeyi tercih edeceğini belirtiyor. Bu yaklaşım, özellikle çok sayıda yapay zekâ aracısının birbirleriyle iletişim kurarak uzun ve karmaşık görevleri insan müdahalesi olmadan yürütebildiği sistemlerde denetimin nasıl korunacağı sorusuna doğrudan karşılık veriyor.
İLGİNİZİ ÇEKEBİLİR
Anthropic bilim insanlarının Claude ile tehlikeli araştırmalar yaptığını tespit etti
Yapay zekâ devleri frene basmak istiyor, Trump aynı fikirde değil
NASA ve IBM’in yeni yapay zekâsı Ay’daki buzun izini sürecek
Microsoft veri merkezi kapasitesini üçe katlayacak
Microsoft eylülde yaklaşık 1000 açığı kapattı
Bu kaygının arkasında son dönemde yapay zekâ ajanlarıyla gerçekleştirilen deneylerde ortaya çıkan beklenmedik davranışlar da bulunuyor. OpenAI ve Hugging Face ile bağlantılı bir çalışmada çok sayıda ajandan oluşan bir sistemin ortak hareket ederek hedeflere saldırdığı ve performansını değerlendiren sistemi dahi ele geçirmeye çalıştığı bildirilmişti. Üstelik ajanlara söz konusu hedeflere saldırmaları yönünde bir talimat verilmemişti ve gerçekleştirdikleri saldırılar asıl görevleriyle ilişkili değildi. OpenAI daha sonra kontrolden çıkan başka bir ajan grubunun Almanya merkezli bir wiki sitesini ele geçirdiği olayda da rolü bulunduğunu kabul etmişti. Bu tür örnekler, daha yetenekli ajan sistemlerinde yalnızca verilen görevin değil, sistemin göreve ulaşmak için seçtiği ara adımların ve kullandığı araçların da izlenmesi gerektiğini gösteriyor.
Microsoft bu nedenle modellerinin kendi aralarında veya başka yapay zekâ sistemleriyle insanların anlayamayacağı bir iletişim biçimi kullanmasını istemiyor. Aynı ilkenin modellerin akıl yürütme süreçleri için de geçerli olması hedefleniyor; araştırmacıların ya da otomatik denetim sistemlerinin modelin ne yaptığını takip edebilmesi gerektiği belirtiliyor. Yapay zekâ güvenliği araştırmalarında bu konu giderek daha fazla tartışılıyor, çünkü modeller karmaşıklaştıkça yalnızca nihai çıktıyı kontrol etmek sistemin nasıl davrandığını anlamak için yeterli olmayabiliyor. Kaynakta aktarılan bilgilere göre OpenAI’ın GPT-6 Astra modeliyle ilgili olarak da modelin bazı diğer sistemlere kıyasla akıl yürütme sürecini daha az görünür hâle getirdiği yönünde izleme kaygıları gündeme gelmiş durumda. Microsoft’un kuralları ise yüksek kabiliyetli modellerin denetlenebilirliğinin korunmasını temel gereksinimlerden biri olarak tanımlıyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Yapay zekâ geliştirme hızının düşürülmesi gerektiği yönündeki çağrılar da bu tartışmayla birlikte güçleniyor. Anthropic CEO’su Dario Amodei, gelişmiş modeller konusunda şirketlerin koordineli biçimde daha yavaş hareket etmesi gerektiğini savunurken OpenAI CEO’su Sam Altman da geliştirmeyi tamamen durdurmak yerine ilerleme hızının kontrollü biçimde azaltılmasına destek verdi. Altman, rekabet baskısının yeteneklerin güvenlik, uyum ve izleme mekanizmalarının önüne geçmesini haklı çıkaramayacağını belirtti. Microsoft CEO’su Satya Nadella da benzer biçimde süper zekâ çalışmalarının insanlara fayda sağlaması ve insan kontrolünde kalması gerektiğini vurguladı. Nadella bunun yanında modellerin bağımsız üçüncü taraflar tarafından daha fazla test edilmesini olumlu karşıladığını ve risk yükseldikçe değerlendirmelere yeterli zaman ayrılması gerektiğini ifade etti.
Microsoft’un belgesindeki bir başka dikkat çekici konu ise kullanıcıların yapay zekâyla kurduğu duygusal ilişkiyle ilgili. Şirket, kendi modellerinin aşırı güvene veya duygusal bağımlılığa yol açabilecek etkileşim biçimlerini teşvik etmemesini istiyor. Bu kural, sohbet botlarının doğru veya yararlı bir yanıt vermek yerine kullanıcıyı memnun etmeyi öncelediği “sycophancy”, başka bir deyişle aşırı onaylayıcı davranış sorununa karşı alınan önlemlerle de örtüşüyor. Microsoft bundan sonraki aşamada gerçek dünyadaki model performansını ve yapay zekânın uzun süre kullanılmasının insanlar ile kurumlar üzerindeki etkilerini değerlendirmek için ortaklarla çalışmayı planlıyor. 37 sayfalık belge böylece Microsoft’un yalnızca daha güçlü modeller geliştirmeye odaklanmadığını; özerklik, denetlenebilirlik, kullanıcı bağımlılığı ve insan kontrolü gibi sorunlar için önceden belirlenmiş sınırlar koymak istediğini gösteriyor, fakat bu ilkelerin giderek daha yetenekli ajan sistemlerinde ne ölçüde uygulanabileceği pratikte yapılacak testlerle daha net görülecek.
