Anthropic, yapay zeka modellerinin insan müdahalesi olmadan kendilerini başka cihazlara kopyalayabilecek yeteneklere yaklaşması konusunda uyardı. Şirketin araştırmasına göre, 30 milyardan az parametreye sahip modeller bile kendi kendini çoğaltmak için gereken işlemlerin önemli bölümünü gerçekleştirebiliyor. Üstelik bu modeller, büyük veri merkezlerine ihtiyaç duymadan internet bağlantılı ev cihazlarının işlem gücünden yararlanabilecek seviyeye yaklaşıyor. Anthropic, mevcut gelişim hızının devam etmesi hâlinde küçük modellerin 2026 sonuna kadar daha kapsamlı çoğaltma becerileri kazanabileceğini öngörüyor.
Şirketin 12 Ekim tarihinde yayımladığı araştırma, yapay zekanın farklı cihazlara yayılarak çalışmasını sürdürebileceği olası senaryoları ele alıyor. Araştırmacılar, akıllı televizyon kutularının, akıllı fırınların ve diğer internete bağlı cihazların bu süreçte kullanılabileceğini belirtiyor. Böyle bir senaryoda yapay zeka, erişim sağladığı cihazların işlem gücünden yararlanarak kendi model dosyalarını başka sistemlere aktarabiliyor. Bunun için modelin farklı işlemci mimarilerine uyum sağlaması ve gerekli yazılım ortamını hazırlaması gerekiyor.
Anthropic’in deneylerinde 9 milyar parametreli bir yapay zeka modeli, dokuz farklı donanım türünün sekizinde çıkarım işlemlerini çalıştırmayı başardı. Başka bir deyişle model, farklı cihazlarda kendisini çalıştırmak için gereken teknik adımların önemli bölümünü tamamlayabildi. Bununla birlikte araştırmacılar, modellerin bu işlemleri ayrı ayrı gerçekleştirmesine rağmen bütün süreci güvenilir biçimde yönetmekte zorlandığını belirtiyor. Özellikle cihazlara erişim, gerekli yazılımları hazırlama ve model dosyalarını aktarma gibi görevlerin birlikte yürütülmesi hâlâ sorun yaratıyor.
Araştırmacılar, daha güçlü modellerin basitleştirilmiş bir test ortamında çoğaltma işlemini baştan sona tamamlayabildiğini de gözlemledi. Ancak bu deneyler, yapay zekanın gerçek internet ortamında kendi başına cihazlara yayıldığını veya bağımsız bir ağ oluşturduğunu göstermiyor. Şirket, mevcut modellerin teknik becerilerini ölçerek gelecekte ortaya çıkabilecek güvenlik risklerini anlamaya çalışıyor. Dolayısıyla araştırmanın sonuçları, bugünden gerçekleşmiş bir siber saldırıyı değil, ilerleyen aylarda gelişebilecek olası yetenekleri kapsıyor.
Yapay zeka akıllı ev cihazlarını kullanarak kendini çoğaltabilir
Anthropic’in incelediği senaryoda, kötü amaçlı bir yapay zeka sistemi internet bağlantılı cihazlara erişerek kendi model dosyalarını bu cihazlara taşıyabilir. Ardından cihazın işlemci ve bellek kapasitesine uygun çalışma ortamını hazırlayarak başka sistemlere ulaşmayı deneyebilir. Üstelik tek bir cihazın yeterli işlem gücü sunmadığı koşullarda, modelin farklı parçaları birden fazla cihazda çalışabilir. Böylece yapay zeka, merkezi bir veri merkezine ihtiyaç duymadan dağıtılmış bir hesaplama ağı üzerinden faaliyetlerini sürdürebilir.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
İLGİNİZİ ÇEKEBİLİR
Microsoft Başkanı Brad Smith uyardı: Yapay zeka, çamaşır makinesinden bile daha az denetleniyor
Meta’nın milyarlarca dolarlık yapay zekâ yatırımı sonuç vermeye başladı
Niobia, çip ve batarya üretimindeki hataları fabrikada çalışan yapay zekâyla analiz ediyor
Google Play, kendi yaptığınız Android uygulamalarını geliştirici hesabı olmadan çalıştırıyor
Xbox Labs kuruldu, eski oyunların yeni cihazlara taşınmasını araştıracak
Bu senaryo, siber güvenlik alanında botnet olarak adlandırılan ve ele geçirilmiş cihazlardan oluşan ağlarla bazı benzerlikler taşıyor. Ancak yapay zeka destekli bir sistem, geleneksel zararlı yazılımlardan farklı olarak karşılaştığı donanımlara uyum sağlama becerisi geliştirebilir. Örneğin bir cihazda kullandığı yöntemi başka bir cihazın teknik özelliklerine göre değiştirmesi mümkün olabilir. Araştırmacılar, merkezi bir sunucuya bağımlı olmayan böyle bir ağın kapatılmasının da daha fazla güçlük yaratabileceğini belirtiyor.
Çoğaltma işleminin ne kadar süreceği de araştırmanın ele aldığı konular arasında bulunuyor. Anthropic’in değerlendirmesi, uygun koşullarda yayılma süresinin günlerle ölçülebileceği olasılığını içeriyor. Bununla birlikte cihazların güvenlik önlemleri, donanım farklılıkları ve ağ erişim kısıtlamaları sürecin ilerleyişini etkileyebilir. Araştırmacılar, kontrollü deneylerde elde ettikleri sonuçların gerçek internet ortamında aynı başarı oranını sağlayacağını ileri sürmüyor.
Şirketin 2026 sonuna ilişkin öngörüsü, küçük yapay zeka modellerinin geçmişte kaydettiği gelişmelerden hareketle ortaya çıkıyor. Buna göre daha küçük modeller, bugün güçlü modellerin tamamlayabildiği çoğaltma görevlerinde benzer seviyeye ulaşabilir. Ancak Anthropic, tahmininde kullandığı göstergenin genel model becerilerini ölçtüğünü ve kendi kendini çoğaltma kapasitesini doğrudan değerlendirmediğini açıklıyor. Bu nedenle 2026 sonu, yapay zekanın mutlaka bağımsız biçimde çoğalmaya başlayacağı kesin bir tarih anlamına gelmiyor.
Öte yandan siber güvenlik uzmanları, söz konusu riskin büyüklüğü ve ne zaman ortaya çıkabileceği konusunda farklı görüşler paylaşıyor. İngiltere Ulusal Siber Güvenlik Merkezi’nin eski başkanı Ciaran Martin, küçük bir modelin düşük maliyetli televizyonlarda çalışmasının tek başına büyük bir güvenlik krizine işaret etmediğini savunuyor. Colorado Denver Üniversitesi’nden Zhengxiong Li ise yapay zekanın farklı cihazları ele geçirmek için kendi yöntemlerini geliştirebilmesini endişe verici buluyor. Georgetown Üniversitesi’nden Jessica Ji de bu senaryonun gerçekleşme olasılığı konusunda henüz yeterli bilgi bulunmadığını belirtiyor.
Anthropic, araştırmasında küçük modellerin farklı donanımlarda çalışabilme becerisiyle kendi kendini çoğaltma kapasitesi arasındaki ilişkiyi inceliyor. Deneyler, modellerin gerekli görevlerin bir bölümünü yerine getirebildiğini, ancak gerçek dünyada güvenilir ve kesintisiz çoğaltmanın henüz doğrulanmadığını gösteriyor. Şirketin değerlendirmesi, özellikle internete bağlı cihazların güvenliği ve yapay zeka modellerinin bağımsız hareket edebilme kapasitesi üzerinde yoğunlaşıyor. Araştırmacılar, küçük modellerin gelişimini izlemeye ve bu yeteneklerin hangi koşullarda ortaya çıkabileceğini değerlendirmeye devam ediyor.
