OpenAI, Anthropic ve Google DeepMind’ın gelişmiş yapay zekâ sistemlerinin güvenliği konusunda birkaç haftadır görüşmeler yürüttüğü ortaya çıktı. Bloomberg’in aktardığına göre, OpenAI’ın küresel politikadan sorumlu yöneticisi Chris Lehane, salı günü gazetecilere yaptığı açıklamada üç şirket arasındaki temasları doğruladı. Lehane’in aynı zamanda yapay zekânın yol açabileceği büyük ölçekli riskler konusunda ABD’li yasa koyucularla çalışmak amacıyla Washington’da bulunduğu belirtiliyor. Görüşmeler, özellikle en gelişmiş modellerin güvenlik testlerinin nasıl yapılacağı ve şirketlerin bu konuda hangi ortak standartları benimseyebileceği tartışmalarının yoğunlaştığı bir döneme denk geliyor. Bununla birlikte şirketler arasındaki koordinasyonun rekabet hukuku açısından nasıl değerlendirileceği de görüşmelerin dikkat çeken başlıklarından birini oluşturuyor.
Bu gelişmenin hemen öncesinde Anthropic CEO’su Dario Amodei, cumartesi günü yayımladığı yazıda yapay zekâ sektöründeki şirketlere daha yakın iş birliği çağrısında bulunmuştu. Amodei, en gelişmiş yapay zekâ modellerinin geliştirilme hızının gerektiğinde yavaşlatılabilmesi ve büyük ölçekli risklerin önlenebilmesi için sektörün birlikte hareket etmesi gerektiğini savundu. OpenAI CEO’su Sam Altman, Google DeepMind CEO’su Demis Hassabis ve SpaceXAI’dan Elon Musk da Amodei’nin çağrısına destek veren isimler arasında yer aldı. Altman bunun yanında, Anthropic’in yaklaşımına benzer biçimde bağımsız üçüncü taraf değerlendiricilerin OpenAI bünyesinde güvenlik denetimleri gerçekleştirmesine izin vereceklerini açıkladı. Böylelikle şirketlerin yalnızca kendi iç güvenlik ekiplerine dayanmadığı, dışarıdan doğrulama mekanizmalarının da gündemde olduğu daha açık biçimde görülüyor.
Yapay zekâ şirketleri ortak güvenlik standartlarını değerlendiriyor
Lehane’in salı günkü açıklaması, OpenAI, Anthropic ve Google arasındaki görüşmelerin Amodei’nin yazısından önce başladığını gösteriyor. Üç şirketin birkaç haftadır yapay zekâ güvenliği hakkında temas hâlinde olduğu belirtilirken, bu tür bir koordinasyonun hukuki sınırları da tartışılıyor. Altman dahil bazı sektör yöneticileri, rakip şirketlerin birlikte hareket etmesinin rekabeti sınırladığı sonucuna varılması hâlinde antitröst mevzuatı açısından sorun oluşturabileceğine dikkat çekmişti. Amodei bu nedenle yazısında, yalnızca yapay zekâ güvenliği konusunda yapılacak koordinasyonu kapsayan dar kapsamlı bir yasal muafiyet oluşturulmasını önermişti. Buna rağmen Bloomberg’in aktardığına göre Lehane, şirketlerin söz konusu görüşmeleri sürdürebilmek için böyle bir muafiyete ihtiyaç duymadığı görüşünde.
İLGİNİZİ ÇEKEBİLİR
Yapay zekâ yavaşlamalı mı? Teknoloji dünyasının en güçlü isimleri karşı karşıya
Microsoft yapay zekâ yarışında sınırlarını açıkça çizdi
Yapay zekâ devleri frene basmak istiyor, Trump aynı fikirde değil
Sam Altman, OpenAI için 2026’da halka arz planlamıyor
RubyGems, yapay zeka ajanlarının saldırısındaki bulguları açıkladı
Şirketler arasındaki temaslara ilişkin işaretler daha önce de ortaya çıkmıştı. Altman, geçen haftanın sonlarında Fortune’a verdiği röportajda diğer yapay zekâ şirketlerinin yöneticileriyle özel görüşmeler yaptığını belirtmiş, ne var ki bu temasların ayrıntılarını açıklamamıştı. The Information ise bu hafta OpenAI, Anthropic ve Google’ın yapay zekâ sektörü için ortak bir standart kuruluşu oluşturmak üzere birlikte çalıştığını bildirdi. Habere göre Altman, OpenAI çalışanlarına böyle bir yapının ABD hükümetinin desteği olmadan oluşturulması gerekebileceğini söyledi. Bu yaklaşım hayata geçirilirse, şirketlerin güvenlik değerlendirmelerinde kullanılacak yöntemler ve ileri seviye modeller için uygulanabilecek ortak ölçütler daha sistematik bir çerçeveye kavuşabilir.
Google DeepMind CEO’su Demis Hassabis de temmuz ayında benzer bir mekanizmanın kamu otoritesi tarafından kurulmasını istemişti. Hassabis, ABD’de yapay zekâ alanında denetleyici rol üstlenecek yeni bir standart kuruluşunun oluşturulmasını ve bu yapıya dünyanın en gelişmiş modellerini inceleme yetkisi verilmesini önermişti. Öneri, risklerin belirli bir seviyeye ulaşması durumunda sektör genelindeki geliştirme faaliyetlerinin koordineli biçimde yavaşlatılmasını da kapsıyordu. Buna karşılık ABD Başkanı Donald Trump, yapay zekâ güvenliğiyle ilgili kaygıları reddederek daha sıkı düzenlemelerin gerekli olmadığı yönünde açıklamalar yaptı. Trump yönetimi, geliştirme hızını azaltacak düzenlemelerin ABD’nin Çin karşısındaki rekabet gücünü olumsuz etkileyebileceğini savunurken, başkanın yapay zekâ danışmanı David Sacks da yapay zekânın varoluşsal risk oluşturduğuna ilişkin endişelerin abartıldığını öne sürdü.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
OpenAI ise şirketlerin kendi aralarında oluşturabileceği standartların yanında bağımsız denetimi zorunlu hâle getirebilecek yasal düzenlemelere de destek veriyor. Lehane, aynı salı günü yapılan toplantıda şirketin FRONTIER Act içindeki bir hükmü desteklediğini söyledi. Söz konusu düzenleme, en gelişmiş yapay zekâ modellerini geliştiren laboratuvarların “bağımsız doğrulama kuruluşlarına” erişim sağlamasını ve modellerin güvenli biçimde geliştirildiğinin dışarıdan denetlenebilmesini öngörüyor. OpenAI, Anthropic ve Google arasındaki görüşmelerin hangi somut standartlarla sonuçlanacağı henüz açıklanmış değil. Yine de şirketlerin bağımsız değerlendirme, ortak güvenlik ölçütleri ve ileri seviye modellerin denetlenmesi gibi başlıklarda aynı masada bulunması, önümüzdeki dönemde sektörün güvenlik uygulamalarının nasıl şekilleneceğine dair daha somut bir çerçeve ortaya çıkarabilir.
