Yapay zekâ alanında OpenAI ve Anthropic bünyesinde son üç yıldır ön eğitim araştırmaları üzerinde çalışan bir araştırmacı, Anthropic’teki görevinden istifa ettiğini açıkladı. X üzerinden yayımladığı uzun açıklamada araştırmacı, her iki şirketin de gelişmiş yapay zekâ konusunda sorumlu biçimde hareket etmediğini savundu. Ona göre sektör, kendi yeteneklerini geliştirebilecek süper zekâ seviyesindeki sistemlere ulaşmak için giderek hızlanan bir rekabet içinde bulunuyor. Araştırmacı, bu yarışın yalnızca şirketler arasındaki ticari rekabet olarak değerlendirilmemesi gerektiğini ve ortaya çıkabilecek sistemlerin güvenlik açısından ciddi sonuçlar doğurabileceğini ileri sürdü. Açıklamadaki değerlendirmelerin araştırmacının kişisel görüşlerini yansıttığını ve yapay zekânın geleceğine ilişkin kesinleşmiş sonuçlar olmadığını da belirtmek gerekiyor.
Araştırmacının üzerinde özellikle durduğu nokta, gelecekteki yapay zekâ sistemlerinin bugün kullanılan modellerden çok daha geniş yeteneklere ulaşabileceği ihtimali oldu. Bu sistemlerin siber saldırılar gerçekleştirebilecek, farklı bilim ve teknoloji alanlarında çok hızlı ilerleme sağlayabilecek ve gerçek dünyada kaynaklara erişebilecek seviyeye gelebileceğini öne sürdü. Son yıllarda kodlama, bilimsel problem çözme, araç kullanımı ve otonom görev yürütme gibi alanlarda görülen gelişmeleri de bu görüşüne dayanak olarak gösterdi. Bununla birlikte mevcut modellerin gerçekten ne zaman ya da hangi koşullar altında insanüstü genel yeteneklere ulaşacağı konusunda araştırma dünyasında ortak bir görüş bulunmuyor. Dolayısıyla araştırmacının ortaya koyduğu zaman çizelgesi ve risk değerlendirmeleri, yapay zekâ güvenliği çevrelerindeki daha ihtiyatlı senaryolardan birini temsil ediyor.
OpenAI ve Anthropic’in yapay zekâ güvenliği yaklaşımı eleştirildi
Paylaşım dizisinin en dikkat çekici bölümlerinden biri, araştırmacının OpenAI ve Anthropic’in kurum içindeki yaklaşımları arasında yaptığı ayrım oldu. Araştırmacı, OpenAI’de çalışan birçok kişinin gelişmiş yapay zekânın uygarlık ölçeğindeki olası sonuçlarını yeterince içselleştirmediğini iddia etti. Anthropic tarafında ise risklerin daha iyi anlaşıldığını, fakat şirketin başka kuruluşların yeterince sorumlu davranmayacağı düşüncesiyle teknolojiyi önce geliştirme baskısı altında kaldığını savundu. Bu değerlendirmeler araştırmacının kendi deneyimine dayanıyor ve şirketlerin kurumsal pozisyonlarının doğrudan bir özeti niteliğinde değil. Yine de açıklama, yapay zekâ güvenliği ile hızlı model geliştirme arasındaki gerilimin bu alanda çalışan araştırmacılar açısından ne kadar belirgin hâle gelebildiğini gösteriyor.
İLGİNİZİ ÇEKEBİLİR
OpenAI günler süren araştırma görevlerini yapabilen yapay zekâ geliştirdi
OpenAI’ın yapay zeka ajanları Alman wiki sitesini ele geçirdi
OpenAI 90 yıldır çözülemeyen matematik problemini çözdü ama tartışmalar başladı
Gazeteler OpenAI’dan içeriklerinin ve yapay zekâ modellerinin imhasını istiyor
OpenAI, ajanlarının bir wiki sitesini ele geçirdiğini doğruladı
Araştırmacı, şirketlerin süper zekâya ulaşma yarışını mevcut biçimiyle kabul etmesini de eleştirdi. Böyle bir kararın yalnızca özel şirketlerin kendi iç süreçleriyle alınamayacak kadar geniş toplumsal sonuçlara sahip olduğunu öne sürdü. Özellikle model yeteneklerinin hızla geliştirilmesiyle güvenlik ve hizalama çalışmalarının aynı tempoda ilerletilebileceği varsayımına şüpheyle yaklaşıyor. Araştırmacının sözünü ettiği “alignment” ya da Türkçedeki karşılığıyla yapay zekâ hizalama çalışmaları, gelişmiş sistemlerin davranışlarının insan amaçları ve güvenlik sınırlarıyla uyumlu tutulmasını hedefleyen araştırmaları kapsıyor. Ne var ki hem risklerin büyüklüğü hem de hangi teknik güvenlik yöntemlerinin gelecekteki çok daha güçlü modeller için yeterli olacağı yapay zekâ araştırmalarındaki tartışmalı başlıklardan biri olmayı sürdürüyor.
Açıklamada yalnızca eleştiri değil, olası politika seçenekleri de gündeme getirildi. Araştırmacı, ABD’de faaliyet gösteren önde gelen yapay zekâ laboratuvarlarının geliştirme hızına ilişkin ortak kurallar üzerinde anlaşmasının mümkün olabileceğini düşünüyor. Bunun küresel ölçekteki rekabeti durdurmaya tek başına yetmeyebileceğini belirten araştırmacı, gerektiğinde model yeteneklerinin daha fazla artırılmasına yönelik geçici bir yasak gibi maliyetli seçeneklerin dahi tartışılması gerektiğini savunuyor. Buradaki öneriler mevcut bir düzenleme kararından ziyade araştırmacının tercih ettiği politika yaklaşımını yansıtıyor. Yapay zekâ geliştirmelerinin sınırlandırılması, güvenlik kazanımlarının yanında ekonomik rekabet, bilimsel araştırma ve farklı ülkelerdeki geliştiricilerin denetlenmesi gibi güçlükleri de beraberinde getiriyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Araştırmacının son çağrısı ise doğrudan gelişmiş modeller üzerinde çalışan meslektaşlarına yönelik oldu. Süper zekâ seviyesine yaklaşabilecek bir sistem üzerinde pekiştirmeli öğrenme çalışması başlatmadan önce sistemin davranışlarının yeterince anlaşılmış olup olmadığının sorgulanması gerektiğini söyledi. Araştırmacılardan, teknolojinin başkaları tarafından zaten geliştirileceği düşüncesini kaçınılmaz bir sonuç olarak kabul etmek yerine çalışma koşullarının ve güvenlik standartlarının değiştirilmesini talep etmelerini istedi. Bu istifa tek başına OpenAI veya Anthropic’in çalışmalarının güvenli ya da güvensiz olduğunu kanıtlamıyor; buna rağmen doğrudan ön eğitim çalışmalarında bulunmuş bir araştırmacının kaygılarını kamuoyu önünde bu kadar açık ifade etmesi, sektör içindeki güvenlik tartışmalarına dikkat çekici bir örnek ekliyor. Yapay zekâ modellerinin yetenekleri ilerledikçe tartışmanın merkezinde de yalnızca hangi sistemin daha güçlü olduğu değil, bu ilerlemenin hangi güvenlik koşulları altında sürdürülmesi gerektiği bulunuyor.
