ABD Savunma Bakanlığı’nın (DOD) yapay zekâ şirketi Anthropic’i “tedarik zinciri riski” olarak sınıflandırması teknoloji sektöründe geniş yankı uyandırdı. Bu kararın ardından OpenAI ve Google DeepMind bünyesinde çalışan 30’dan fazla araştırmacı ve mühendis, Anthropic’in açtığı davayı destekleyen bir mahkeme bildirisine imza attı. Federal mahkemeye sunulan belgeye göre imzacılar arasında Google DeepMind baş bilim insanı Jeff Dean de yer alıyor. Bildiride, Pentagon’un aldığı kararın hem sektör hem de bilimsel araştırma ortamı üzerinde ciddi sonuçlar doğurabileceği vurgulanıyor.
ABD hükümeti genellikle “tedarik zinciri riski” etiketini ulusal güvenlik açısından tehdit oluşturabilecek yabancı kuruluşlar için kullanıyor. Buna rağmen Savunma Bakanlığı’nın bir ABD merkezli yapay zekâ şirketi için aynı tanımı kullanması dikkat çekti. Tartışmanın merkezinde ise Anthropic’in kendi yapay zekâ teknolojisinin kullanımına ilişkin koyduğu bazı sınırlar bulunuyor. Şirket, teknolojisinin Amerikalıların kitlesel gözetimi için kullanılmasına veya otonom şekilde ölümcül silahları tetikleyen sistemlerde yer almasına izin vermediğini açıklamıştı.
Yapay zekâ kullanımına getirilen sınırlamalar tartışma yarattı
Pentagon yetkilileri ise yapay zekâ araçlarının “yasal” olduğu sürece farklı amaçlarla kullanılabilmesi gerektiğini savunuyor. Buna rağmen Anthropic, söz konusu kullanım alanlarının ciddi etik ve güvenlik riskleri taşıdığı görüşünü koruyor. Bu anlaşmazlık, şirket ile ABD Savunma Bakanlığı arasındaki sözleşme ilişkisini doğrudan etkileyen bir kriz haline geldi. Tüm bunlara ek olarak Anthropic, geçen hafta Savunma Bakanlığı ve bazı federal kurumlara karşı iki ayrı dava açtı.
Mahkemeye sunulan destek dilekçesinde teknoloji çalışanları farklı bir noktaya dikkat çekiyor. İmzacıların değerlendirmesine göre Pentagon, mevcut sözleşmenin koşullarından memnun değilse sözleşmeyi iptal edip başka bir yapay zekâ sağlayıcısıyla çalışmayı tercih edebilirdi. Buna rağmen şirketi “tedarik zinciri riski” olarak etiketlemek, sektörde alışılmadık ve tartışmalı bir yöntem olarak değerlendiriliyor. Buna ek olarak böyle bir adımın, özel sektör ile kamu kurumları arasındaki iş birliklerini olumsuz etkileyebileceği ifade ediliyor.
Öte yandan Savunma Bakanlığı’nın Anthropic’i bu şekilde sınıflandırmasının ardından OpenAI ile hızlı biçimde yeni bir anlaşma imzaladığı da ortaya çıktı. Bu gelişme, OpenAI içindeki bazı çalışanların tepkisine neden oldu. Bazı çalışanlar şirket yönetimine çağrıda bulunarak Anthropic’e destek verilmesini ve yapay zekâ sistemlerinin tek taraflı askeri kullanımına karşı daha net bir duruş sergilenmesini talep etti.
Mahkeme dosyasına giren belgede, yapay zekâ sistemlerinin kullanımına ilişkin geliştiricilerin koyduğu teknik ve sözleşmeye dayalı sınırlamaların önemli bir güvenlik mekanizması olduğu ifade ediliyor. Özellikle yapay zekâ teknolojilerinin hızla geliştiği bir dönemde kapsamlı yasal düzenlemelerin henüz netleşmemiş olması, bu tür sınırlamaların önemini artırıyor. Buna rağmen federal kurumların bu tür sınırları görmezden gelmesi, sektör içinde daha geniş bir tartışmayı tetikleyebilir.
Teknoloji dünyasının gündemini Teknoblog'un bültenleriyle takip edin.
