Google ve Google DeepMind bünyesindeki araştırmacılar, yapay genel zekânın geleceğine ilişkin tartışmaları daha geniş bir zemine taşımayı amaçlayan DeepMind Institute adlı yeni bir oluşumu duyurdu. Enstitünün yönetim kadrosunda DeepMind kurucu ortaklarından Shane Legg, Google yöneticisi James Manyika ve Google DeepMind Başkanı Demis Hassabis yer alıyor. Legg aynı zamanda oluşumun yönetici editörlüğünü üstlenecek. DeepMind Institute, yalnızca Google ve Google DeepMind içinde şekillenen görüşleri paylaşmak yerine, yapay genel zekâ konusunda küresel araştırma topluluğunda ortaya çıkan farklı yaklaşımlara da alan açmayı hedefliyor. Kuruluş duyurusunda, katkıda bulunan araştırmacıların her konuda aynı fikirde olmayabileceği ve hızla ilerleyen yapay zekâ araştırmalarından yeni veriler geldikçe mevcut görüşlerin değişebileceği özellikle belirtiliyor.
Enstitünün ilk yayını dört ayrı makaleden oluşuyor ve bunların her biri yapay genel zekânın doğurabileceği farklı sorunlara odaklanıyor. Ele alınan başlıklar arasında AGI kaynaklı ekonomik dönüşümlere karşı uygulanabilecek politikalar, yapay zekâ modellerinin insanlar tarafından okunabilir muhakeme süreçlerinin korunması, insanların gelişimini ve refahını desteklemeye yönelik ilkeler ve en gelişmiş yapay zekâ modellerinin nasıl değerlendirilebileceğine ilişkin bir çerçeve bulunuyor. Bu konu seçimi, tartışmanın yalnızca modellerin teknik kapasitesine indirgenmediğini gösteriyor. Ekonomik etkilerden güvenlik denetimine kadar uzanan geniş çerçeve, AGI geliştikçe şirketlerin, araştırmacıların ve düzenleyici kurumların karşılaşabileceği meseleleri birlikte ele alıyor. Bunun yanında yayımlanan metinlerde kesin politika reçeteleri sunmak yerine, farklı seçeneklerin avantaj ve sınırlamalarının tartışmaya açılması tercih ediliyor.
DeepMind Institute yapay zekâ modellerinin denetlenebilirliğini gündeme taşıyor
Google DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan tarafından kaleme alınan makalelerden biri, gelişmiş yapay zekâ modellerinin nasıl düşündüğünü ve hangi ara adımları izlediğini anlayabilmenin giderek zorlaşabileceği sorununa odaklanıyor. Araştırmacılar, modellerin muhakeme süreçlerindeki şeffaflık penceresinin küçülmesinin kaçınılmaz bir sonuç olmadığını savunuyor. Yeni mimariler daha güçlü modeller ortaya çıkarırken, bu sistemlerin iç süreçlerini gözlemlemek ve kontrol etmek de daha güç hâle gelebiliyor. Shah ve Dragan’a göre geliştiricilerin ve düzenleyicilerin bu noktada güvenlik ile model kapasitesi arasındaki tercihleri açık biçimde değerlendirmesi gerekiyor. Yazarlar, insanların okuyabildiği bir muhakeme izi üretmeden gerçekleştirilen ardışık hesaplama miktarını ifade eden “opaque serial depth” seviyesinin sınırlandırılması veya daha az şeffaf modeller geliştiren şirketlerin bu sistemlerin aynı ölçüde denetlenebilir olduğunu kanıtlamasının istenmesi gibi seçenekleri tartışıyor.
İLGİNİZİ ÇEKEBİLİR
Gemini 3.8 Live geldi: Google sesli görüşmede yeni dönem açıyor
Google ve BM yapay zekânın veri sorununa el atıyor
MediaTek yeni Dimensity 9600M ile yapay zekâ tarafını güçlendiriyor
AB’den çocukların sosyal medya kullanımını değiştirecek yeni plan
Google Home MCP desteğiyle yapay zekâ ajanlarına açıldı
Demis Hassabis tarafından kaleme alınan başka bir makalede ise en ileri yapay zekâ modellerinin bağımsız biçimde değerlendirilmesine yönelik ABD merkezli bir standart kuruluşu öneriliyor. Hassabis’in çerçevesine göre şirketler, ilk aşamada geliştirdikleri üst düzey modelleri kullanıma sunmadan en fazla 30 gün önce gönüllü olarak değerlendirmeye gönderebilir. Değerlendirme sisteminin güvenilir ve etkili olduğu görüldükten sonra söz konusu testlerden geçmek, ABD’de gelişmiş yapay zekâ modellerini kullanıma sunmanın koşullarından biri hâline getirilebilir. Böyle bir sistem, özellikle şirketlerin kendi güvenlik testlerinin ötesinde ortak ölçütler oluşturulmasını sağlayabilir. Ne var ki bağımsız değerlendirmelerin kapsamı, hangi modellerin bu sürece tabi olacağı ve ticari sırların nasıl korunacağı gibi ayrıntılar, böyle bir yaklaşımın uygulanabilirliğinde belirleyici olacaktır.
Önerilen kurumun ilk aşamada testlerini yapay zekâ şirketleriyle birlikte tasarlaması, daha sonraki dönemdeyse kendi bağımsız ve önceden açıklanmayan değerlendirmelerini hazırlaması öngörülüyor. Makalede “held-out” olarak adlandırılan bu testlerin temel amacı, geliştiricilerin modellerini önceden bilinen ölçütlere göre özel olarak optimize etmesinin önüne geçmek. Böylelikle bir modelin gerçek kapasitesi ve güvenlik açıkları, şirketlerin test içeriğini önceden bilmediği koşullarda incelenebilecek. Hassabis, risklerin artması hâlinde değerlendirme çerçevesinin daha sıkı hâle getirilebileceğini de belirtiyor. Bu yaklaşımın en ileri aşamasında, güvenlik önlemlerinin teknolojik gelişmenin gerisinde kalması durumunda önde gelen yapay zekâ geliştiricilerinin koordineli biçimde çalışmalarını yavaşlatması da seçenekler arasında yer alıyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
DeepMind Institute’un ilk metinleri, yapay zekâ güvenliği tartışmasının genel risk uyarılarından daha somut denetim ve değerlendirme önerilerine doğru ilerlediği bir dönemde yayımlanıyor. Sektörde son dönemde model geliştiricilerinin daha fazla bilgi açıklaması, dış kuruluşların sistemleri inceleyebilmesi ve güvenlik mekanizmalarının yeterli olmadığı durumlarda geliştirme hızının düşürülmesi gibi seçenekler daha sık gündeme geliyor. Kaynak metne göre bu tartışma, Anthropic CEO’su Dario Amodei’nin en gelişmiş yapay zekâ sistemlerinin geliştirilme hızının kontrollü biçimde ayarlanmasına yönelik çağrısının sektörde bazı isimlerden destek görmesiyle son günlerde daha görünür hâle geldi. Buna rağmen şirketlerin gönüllü güvenlik taahhütleri ile bağlayıcı düzenlemeler arasında nasıl bir denge kurulacağı henüz netleşmiş değil. DeepMind Institute ise ilk yayınları itibarıyla AGI konusunda tek bir kurumsal görüş ortaya koymaktan çok, teknik güvenlikten ekonomik politikalara kadar uzanan farklı yaklaşımların karşılaştırılabileceği bir tartışma zemini oluşturmayı amaçlıyor.
