Anthropic, bazı bilim insanlarının Claude yapay zekâ modellerinden potansiyel biyolojik silahların geliştirilmesine yardımcı olabilecek araştırmalarda yararlandığını tespit ettiğini açıkladı. Şirketin perşembe günü paylaştığı yeni güvenlik raporunda biyolojik alandaki kötüye kullanım vakalarına ilişkin beş ayrı örneğe yer veriliyor. Anthropic, söz konusu hesapların engellendiğini ve incelemelerden elde edilen bulguların Claude’un güvenlik mekanizmalarını geliştirmek amacıyla kullanıldığını belirtiyor. Biyoloji alanındaki risklerin giderek daha fazla gündeme gelmesinin nedenlerinden biri, yeni nesil yapay zekâ modellerinin bilimsel araştırmalara yardım etme kapasitesinin belirgin biçimde gelişmesi. Bu durum, meşru akademik çalışmalar ile zararlı amaçlarla kullanılabilecek araştırmaları birbirinden ayırmayı da yapay zekâ şirketleri açısından daha karmaşık hâle getiriyor.
Anthropic’in raporunda yalnızca biyolojik araştırmalara ilişkin vakalar bulunmuyor. Şirket, modellerinin gözetim amacıyla kullanılması, yazılım açıklarının geliştirilmesi, propaganda faaliyetleri ve silah sistemleriyle bağlantılı çalışmalar gibi farklı kötüye kullanım örneklerini de incelemiş. Bununla birlikte biyolojik araştırmalar diğer alanlardan farklı bir denetim sorunu ortaya çıkarıyor. Örneğin yeni bir aşının geliştirilmesine yönelik bilimsel çalışma ile bir patojenin daha tehlikeli hâle getirilmesini amaçlayan araştırma, kullanılan yöntemler ve sorulan teknik sorular bakımından bazı ortak özelliklere sahip olabiliyor. Anthropic bu nedenle vakaları değerlendirirken olası sonuçların ağırlığını dikkate alarak daha ihtiyatlı davranmayı tercih ettiğini söylüyor.
Claude biyolojik araştırmalarda kötüye kullanım belirtilerini nasıl tespit etti
Mayıs ayında kaydedilen vakalardan birinde Anthropic’in “biyolojik güvenlik sınıflandırıcısı”, Claude’dan chikungunya virüsü üzerinde işlev kazanımı araştırması için bir hibe başvurusu hazırlamasının istendiğini belirledi. Chikungunya enfeksiyonu haftalar, bazı durumlarda ise aylar boyunca devam edebilen ciddi belirtilere yol açabiliyor ve virüse yönelik lisanslı özel bir tedavinin bulunmadığı belirtiliyor. İşlev kazanımı olarak bilinen araştırmalar, organizmaların belirli özelliklerini değiştirmek amacıyla genetik müdahalelerin nasıl kullanılabileceğini inceleyebiliyor. Anthropic’in değerlendirdiği örnekte hazırlanan araştırma önerisi, virüsün bulaşıcılığının artırılmasının yanı sıra bağışıklık sisteminden kaçabilme yeteneğinin geliştirilmesini de içeriyordu. Şirket açısından risk değerlendirmesini daha hassas hâle getiren bir başka unsur ise önerilen çalışmanın askeri bir araştırma kuruluşuyla bağlantılı olmasıydı.
İLGİNİZİ ÇEKEBİLİR
Claude Max’in 20x kullanım vaadi Anthropic’i mahkemelik etti
Claude kullanıcıları hesaplarını kullanmadan tokenlarının tükendiğini fark etti
Üç yıl OpenAI ve Anthropic’te çalıştı, şimdi yapay zekâ yarışı için uyarıyor
OpenAI 90 yıldır çözülemeyen matematik problemini çözdü ama tartışmalar başladı
Muse yıllardır kullandığı kullanıcı adını Meta’nın yapay zekâsına kaptırdı
Raporda kuş gribi üzerinde gerçekleştirilecek başka bir işlev kazanımı araştırmasına ilişkin benzer bir vaka da bulunuyor. Bunun yanında Anthropic, bir araştırmacının Claude’dan zehir toksinlerinde bulunan peptitleri kapsayan bir atlas geliştirmek ve toksinlerin belirli özelliklerini optimize edecek üretken bir sistem oluşturmak için yararlandığını tespit etti. Bu tür çalışmaların tamamı tek başına zararlı bir amacı kanıtlamıyor. Bilimsel araştırmalarda aynı tekniklerin ilaç geliştirme, hastalıkların anlaşılması veya savunma amaçlı biyogüvenlik çalışmaları için kullanılması mümkün. Buna rağmen bir yapay zekâ sisteminin sağladığı yardımın patojenlerin bulaşıcılığı, bağışıklık sisteminden kaçışı veya toksin özelliklerinin optimizasyonu gibi alanlara uzanması, şirketlerin güvenlik mekanizmalarının bağlamı da değerlendirmesini gerektiriyor.
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein da The New York Times’a yaptığı açıklamada vakaların açık biçimde kötü niyet ifade eden kullanıcı isteklerinden oluşmadığına dikkat çekti. Klein’a göre kullanıcıların doğrudan biyolojik silah üretmek istediklerini söylemeleri gibi kolayca sınıflandırılabilecek bir tablo söz konusu değil. Bunun yerine teknik açıdan meşru görünebilecek araştırma taleplerinin amacı, bağlı olduğu kurum ve araştırmanın olası sonuçları birlikte değerlendiriliyor. Bu yaklaşım yanlış pozitif sonuçların ortaya çıkması ihtimalini tamamen ortadan kaldırmıyor. Fakat Anthropic, biyolojik alandaki potansiyel sonuçların ağırlığı nedeniyle sınırda kalan durumlarda daha temkinli bir politika uyguladığını ifade ediyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Şirket, incelemelerde Claude veya diğer Anthropic modellerini kötüye kullandığı değerlendirilen kullanıcıların hesaplarını yasakladı. Elde edilen verilerin gelecekte benzer kullanımların daha erken belirlenebilmesi için model güvenlik sistemlerinin geliştirilmesinde değerlendirildiği de aktarılıyor. Buna karşılık Anthropic, biyolojik araştırma vakalarıyla ilişkilendirdiği kişilerin veya kurumların adlarını açıklamıyor. Şirket, incelenen vakalarda yer alan kişilerin aktif olarak çalışan bilim insanları olduğunu ve bu kişilerin zarar verme niyetinde olduklarını ileri sürmediğini özellikle vurguluyor. İsimlerin veya laboratuvarların kamuoyuna açıklanmasının söz konusu kişileri riske atabileceği gerekçesiyle raporda anonimleştirme tercih edilmiş.
Ortaya çıkan vakalar, bilimsel çalışmalarda yapay zekâ kullanımının sağladığı verimlilik ile çift kullanımlı araştırmaların oluşturduğu güvenlik sorunlarının aynı anda ele alınması gerektiğini gösteriyor. Claude gibi modeller araştırma literatürünü değerlendirme, deney planlama ve bilimsel metin hazırlama gibi alanlarda araştırmacılara yardımcı olabilirken, benzer yetenekler riskli biyolojik çalışmalar için de kullanılabiliyor. Üstelik meşru araştırma ile kötüye kullanım arasındaki çizginin her zaman kullanıcı tarafından yazılan tek bir istem üzerinden belirlenmesi mümkün görünmüyor. Anthropic’in açıkladığı örneklerde hesap geçmişi, araştırmanın niteliği ve kurumsal bağlantılar gibi daha geniş bağlamın değerlendirilmesi bu nedenle öne çıkıyor. Şirketin yaklaşımı kötüye kullanımı tamamen ortadan kaldırdığını göstermese de, gelişmiş bilimsel yeteneklere sahip yapay zekâ modellerinde güvenlik denetiminin yalnızca yasaklı kelimeler veya doğrudan zararlı talepler üzerinden yürütülemeyeceğini ortaya koyuyor.
