Anthropic kurucusu ve CEO’su Dario Amodei, şirketinin açık ağırlıklı (open-weight) yapay zekâ modellerinin yasaklanmasını desteklediği yönündeki iddialara doğrudan yanıt verdi. Pazartesi günü yayımladığı blog yazısında Amodei, Anthropic’in hiçbir zaman açık ağırlıklı modellerin yasaklanmasını savunmadığını açık bir ifadeyle dile getirdi. Son dönemde ABD’de yapay zekâ politikaları etrafında yoğunlaşan tartışmaların ardından gelen bu açıklama, özellikle Çin merkezli yapay zekâ modelleriyle ilgili güvenlik endişelerini yeniden gündeme taşıdı. Amodei, açık ağırlıklı modeller ile ulusal güvenlik risklerinin birbirinden farklı başlıklar olarak değerlendirilmesi gerektiğini vurguladı.
Söz konusu açıklama, Nvidia kurucusu ve CEO’su Jensen Huang’ın X platformunda paylaştığı açık mektubun ardından geldi. Nvidia’nın yanı sıra Meta, Microsoft, Hugging Face ve Mistral gibi birçok yapay zekâ şirketinin de imzaladığı metinde, politika yapıcılara açık ağırlıklı yapay zekâ modellerine yönelik kapsamlı ve erken aşamada getirilecek kısıtlamalardan kaçınılması çağrısı yapılmıştı. Mektupta Çin’den doğrudan söz edilmese de sektördeki tartışmaların önemli bölümü Çinli şirketlerin yapay zekâ alanındaki hızlı ilerleyişi ve fikri mülkiyet ihlali iddiaları etrafında şekilleniyor.
Amodei, daha önce yayımladığı değerlendirmelerin de aynı çizgide olduğunu hatırlatarak, açık ağırlıklı ve tehlikeli yeteneklere sahip olmayan yapay zekâ modellerinin kamu yararına hizmet ettiğini söyledi. Bu tür modellerin yalnızca çalıştırılmaları için gerekli hesaplama maliyetine ihtiyaç duyduğunu belirten Amodei, geliştiriciler, araştırmacılar ve işletmeler açısından önemli bir değer sunduklarını ifade etti. Buna göre Anthropic’in itiraz ettiği nokta açık ağırlıklı modellerin varlığı değil, belirli koşullarda ortaya çıkabilecek güvenlik riskleri.
Amodei yapay zekâda asıl riskin Çin’in askeri kapasitesi olduğunu düşünüyor
Anthropic CEO’su, uzun süredir dile getirdiği güvenlik kaygılarının odağında açık ağırlıklı modelleri kullanan şirketlerin bulunmadığını belirtti. Ona göre asıl tehdit, otoriter yönetimlerin ABD’den daha güçlü yapay zekâ sistemleri geliştirerek kalıcı askeri üstünlük elde etmesi veya bu teknolojileri kendi vatandaşlarını baskı altında tutmak amacıyla kullanması ihtimali. Amodei, yalnızca Çin’i değil diğer otoriter yönetimleri de risk olarak gördüğünü ifade etti. Bununla birlikte Çin Komünist Partisi’nin teknik kapasitesi nedeniyle bu alandaki en güçlü aktör olduğunu düşündüğünü de sözlerine ekledi.
İLGİNİZİ ÇEKEBİLİR
AMD, Claude’un geliştiricisi Anthropic’e 5 milyar dolara kadar yatırım yapacak
Claude sesli modu Sonnet ve Opus desteği kazandı
NVIDIA ve Microsoft açık yapay zekâ odaklı güvenlik ittifakında buluştu
Claude Opus 5, Fable 5’e yakın gücü yarı fiyatla sunuyor
ChatGPT’nin sağlık tavsiyesi OpenAI’ı mahkemelik etti
Bunun yanında Amodei, yapay zekânın yalnızca siber saldırıları değil biyolojik saldırıları da kolaylaştırabilecek bir teknolojiye dönüşmesinden endişe duyduğunu belirtti. Açık ağırlıklı modeller söz konusu olduğunda güvenlik önlemlerinin uygulanmasının ve kullanımın izlenmesinin daha zor olduğuna dikkat çeken Amodei, İngiltere Yapay Zekâ Güvenlik Enstitüsü’nün raporuna atıfta bulunarak yayımlanan açık ağırlıklı modellerin daha sonra geri çekilemediğini hatırlattı. Bu durumun özellikle yüksek riskli sistemlerde dikkate alınması gerektiğini savundu.
Günün Öne Çıkan Fırsatları
Teknoblog'un satış ortaklıkları vardır. Bunlar, editoryal içeriği etkilemez, ancak Teknoblog, satış ortaklığı bağlantıları üzerinden satın alınan ürünler için komisyon kazanabilir.
Ne var ki, bu yaklaşım açık kaynak yapay zekâ topluluğunun savunduğu görüşlerle örtüşmüyor. Açık kaynak savunucuları, güçlü yapay zekâ modellerinin tek bir şirketin kontrolünde olmamasının güvenlik açısından avantaj sağlayabileceğini düşünüyor. Bu görüşe göre araştırmacılar ve güvenlik uzmanları, açık modeller sayesinde potansiyel tehditleri daha hızlı tespit edip savunma mekanizmaları geliştirebiliyor. Tartışmanın temelinde ise erişilebilirlik ile güvenlik arasında nasıl bir denge kurulması gerektiği sorusu yer alıyor.
Amodei, Çin’in gelişmiş yapay zekâ kapasitesini sınırlamak amacıyla uygulanabilecek bazı önerileri de sıraladı. Bunlar arasında Çin’in gelişmiş yapay zekâ işlemcilerine erişiminin sınırlandırılması ve yapay zekâ modellerinden bilgi çıkarılması amacıyla kullanılan “distillation” yöntemine karşı daha sert önlemler alınması bulunuyor. Distillation tekniği, bir yapay zekâ modeline yoğun şekilde sorgular yönelterek çalışma biçiminin taklit edilmesini hedefliyor. ABD yönetimi daha önce Amerikan şirketlerine ait yapay zekâ modellerinin fikri mülkiyet haklarının ihlal edildiğinin tespit edilmesi durumunda Çin’e yaptırım uygulanabileceğini açıklamıştı.
Öte yandan Amodei, uluslararası düzeyde ortak bir yapay zekâ güvenlik test mekanizmasının oluşturulmasını da desteklediğini belirtti. Özellikle ABD’nin son dönemde bu yönde attığı adımları olumlu bulduğunu söyleyen Anthropic CEO’su, en gelişmiş yapay zekâ modellerinin menşeine veya açık ya da kapalı yapıda olmasına bakılmaksızın aynı güvenlik testlerinden geçirilmesini önerdi. Buna karşılık girişimler ve akademik kuruluşlar tarafından geliştirilen daha düşük kapasiteli modellerin bu kapsamın dışında tutulabileceğini ifade etti.
Amodei’ye göre, böyle bir sistemin etkili olabilmesi için küresel ölçekte uygulanması gerekiyor. Bunun da Çin dahil tüm büyük aktörlerin ortak katılımını zorunlu kıldığına dikkat çekti. Özellikle biyolojik silahların yapay zekâ aracılığıyla geliştirilmesi gibi küresel risklerin önlenmesinde sınırlı da olsa uluslararası iş birliğinin mümkün olabileceğini savunan Amodei, bu tür güvenlik mekanizmalarının yalnızca tek bir ülkenin girişimiyle başarıya ulaşmasının zor olduğuna işaret etti.
