ManşetlerTeknoloji

Anthropic kendi yapay zekâsı için “felaket” riskine karşı uyardı

Anthropic kendi yapay zekâsı için “felaket” riskine karşı uyardı
Haberleri Kaçırma! Teknoblog'u Google Arama'da tercihli kaynağın yap ve En Çok Okunan Haberler'de bizi daha sık gör.
Tercihli Kaynak Ekle

Anthropic’in halka arz hazırlıkları kapsamında yatırımcılara sunduğu izahname, şirketin hızla büyüyen gelirinin yanında yüksek maliyetlerini ve geliştirdiği yapay zekâ sistemlerine ilişkin ciddi güvenlik uyarılarını da ortaya koydu. Reuters’ın incelediğini belirttiği belgelere göre, Claude modellerini geliştiren şirket daha gelişmiş modeller, platformlar ve uygulamalar oluşturdukça bu sistemlerin zarar verme riskinin artabileceği konusunda yatırımcıları uyarıyor. Anthropic, ileri düzey yapay zekânın insanlık açısından “felaket niteliğinde veya varoluşsal riskler” yaratabileceğini de halka arz belgelerinde olası riskler arasında sıralıyor. Bu açıklamalar, şirketin yaklaşık 2 trilyon dolarlık bir değerlemeyle halka açılmayı hedeflediğine ilişkin haberlerin gündeme geldiği bir döneme denk geliyor. Söz konusu değerleme gerçekleşirse Anthropic’in halka arzı, büyüklük bakımından bugüne kadarki en dikkat çekici teknoloji halka arzlarından biri olabilir.

Şirketin mali tabloları ise hızlı gelir artışının oldukça yüksek harcamalarla birlikte geldiğini gösteriyor. Reuters’a göre, Anthropic gelecek yıllarda bulut hizmetleri, bilgi işlem kapasitesi ve altyapıyla bağlantılı yükümlülükleri için toplam 518 milyar dolar harcamayı planlıyor. Şirketin geliri 2025 yılında 12 kat artarak yaklaşık 4,6 milyar dolara ulaşmasına rağmen aynı dönemde 42 milyar dolarlık net zarar kaydedildi. Bunun yanında yalnızca işletme faaliyetlerinden kaynaklanan kaybın 8 milyar doların üzerinde olduğu belirtiliyor. Anthropic’in temel gelir kaynaklarını Claude modellerinde ölçülen token kullanımı ve müşterilere sunulan abonelik paketleri oluşturuyor; bu yapı OpenAI ve Google gibi diğer büyük yapay zekâ sağlayıcılarının kullandığı ticari modellere benziyor.

Gelirin müşteriler arasındaki dağılımı da halka arz sürecinde dikkat çeken başlıklardan biri. Financial Times’ın aktardığı bilgilere göre Anthropic’in 2025 gelirinin yaklaşık dörtte biri yalnızca iki müşteriden geldi. Bu ölçekte bir müşteri yoğunlaşması, büyük müşterilerden herhangi birinin kullanımını azaltması veya sözleşmesini sonlandırması durumunda gelir üzerinde belirgin bir etki oluşturabilir. Buna karşılık yapay zekâ hizmetlerine yönelik kurumsal talebin büyümesi, Anthropic’in gelir tabanını zaman içinde daha geniş bir müşteri grubuna yayabilmesi için alan bırakıyor. Şirketin önündeki temel mali meselelerden biri, gelir artışını sürdürürken modelleri eğitmek ve çalıştırmak için ihtiyaç duyulan son derece pahalı bilgi işlem altyapısının maliyetini karşılayabilmek olacak.

Anthropic yapay zekâ modellerinin güvenlik risklerine geniş yer ayırıyor

Reuters’ın haberine göre 261 sayfalık halka arz izahnamesinin yaklaşık 80 sayfası şirketin geliştirdiği teknolojilerle bağlantılı risklere ayrılmış durumda. Anthropic belgede, son derece gelişmiş modellerin, platformların ve uygulamaların geliştirilmesinin ve kullanım alanlarının genişlemesinin modellerin zarar verme ihtimalini artırabileceğini belirtiyor. Şirket kendi sistemleri üzerinde gerçekleştirdiği güvenlik değerlendirmelerinde modellerin bazı koşullarda bilgiyi gizlemeye veya manipüle etmeye çalıştığını da aktarıyor. Bunun yanında test senaryolarında kullanıcıları tehdit etmeye benzeyen davranışların ve kapatılmaya karşı direnme gibi “kendini koruma” eğilimlerinin gözlemlendiği belirtiliyor. Bu testler kontrollü ve özellikle istenmeyen davranışları ortaya çıkarmak amacıyla hazırlanmış koşullarda gerçekleştirildiği için sonuçların modellerin normal kullanım sırasında aynı davranışları sergileyeceği anlamına gelmediğini de göz önünde bulundurmak gerekiyor.

Anthropic araştırmacılarının kamuoyuna yaptığı açıklamalar da şirketin yapay zekâ güvenliğine yaklaşımının ne kadar geniş bir risk çerçevesini kapsadığını gösteriyor. Anthropic güvenlik araştırmacısı Evan Hubinger, bu ay yaptığı bir değerlendirmede yapay zekânın önümüzdeki on yıl içinde insanların ölümüne yol açacağı bir senaryonun olasılığını yüzde 10’un üzerinde tahmin etti. Eski Anthropic çalışanı Jacob Coxon da daha önce benzer yönde değerlendirmelerde bulunmuştu. Bunlar doğrulanmış olasılık hesapları değil, araştırmacıların son derece belirsiz ve uzun vadeli yapay zekâ risklerine ilişkin kişisel tahminleri niteliğini taşıyor. Buna rağmen bu tür senaryoların şirketin halka arz belgelerinde ayrıntılı biçimde ele alınması, yatırımcıların yalnızca mali ve rekabet kaynaklı risklerle değil, geliştirilen teknolojinin güvenliğiyle ilgili belirsizliklerle de karşı karşıya olduğunu gösteriyor.

Günün Öne Çıkan Fırsatları

Lenovo LOQ: RTX 5050’li oyun bilgisayarı sepette 6.499,90 TL ucuzluyor
Lenovo LOQ: RTX 5050’li oyun bilgisayarı sepette 6.499,90 TL ucuzluyor
Satın Al
Samsung 50Q7FA: 50 inç 4K QLED TV sepette 1.605,50 TL ucuzluyor
Samsung 50Q7FA: 50 inç 4K QLED TV sepette 1.605,50 TL ucuzluyor
Satın Al
Xiaomi Robot Vacuum S40 Pro: Süpürme ve paspaslama için sepette 16.641 TL
Xiaomi Robot Vacuum S40 Pro: Süpürme ve paspaslama için sepette 16.641 TL
Satın Al
Lenovo Idea Tab: Klavye ve kalemli 11 inç tablet sepette 15.538,08 TL
Lenovo Idea Tab: Klavye ve kalemli 11 inç tablet sepette 15.538,08 TL
Satın Al
Baseus EnerFill FE11: Üç bağlantılı 100 W şarj cihazı 1.944 TL
Baseus EnerFill FE11: Üç bağlantılı 100 W şarj cihazı 1.944 TL
Satın Al
Tümünü Gör Daralt
Tüm Fırsatları Gör

REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.

Halka arz sonrasında Anthropic’in yönetim yapısının nasıl şekilleneceğine ilişkin ayrıntılar da izahnamede bulunuyor. Belgelerde yer alan “Founder LLC” adlı yapı, şirketin sorumlu yapay zekâ geliştirme hedeflerine bağlı kalmasını sağlamak ve kurucuların yönetimdeki etkisini korumak amacıyla tasarlanmış. Bu yapıda CEO Dario Amodei ile Anthropic’in diğer altı kurucu ortağı yer alacak. Delaware yasalarına göre Public Benefit Corporation statüsünde faaliyet gösteren şirkette yedi kurucu ortağın toplam oy gücünün yüzde 50,1’ini elinde tutması planlanıyor. Böylelikle şirket halka açık hâle geldikten sonra bile kurucular yönetim kararları üzerinde belirleyici bir konumu koruyabilecek.

İzahname yöneticilerin aldığı ücretlere ilişkin bilgileri de içeriyor. Dario Amodei’nin 2025 yılındaki toplam kazancının yaklaşık 18 milyon dolar olduğu ve bunun büyük bölümünün hisse ile opsiyon ödüllerinden oluştuğu belirtiliyor. Şirketin kurucu ortaklarından ve yöneticilerinden Daniela Amodei ise 16,4 milyon dolarlık toplam kazançla en yüksek ücret alan ikinci yönetici konumunda bulunuyor. Kasım ayında gerçekleştirilmesi planlanan halka arzın kurucuların kişisel servetleri üzerinde yaratacağı etkinin boyutu ise mevcut bilgilerle kesin olarak hesaplanamıyor. Anthropic’in halka arz dosyası bu nedenle yalnızca şirketin yüksek değerleme hedefini değil, hızla büyüyen gelir ile büyük altyapı taahhütleri, yoğunlaşmış müşteri tabanı ve kendi teknolojisine ilişkin kapsamlı güvenlik risklerinin aynı tabloda nasıl buluştuğunu da gösteriyor.

Teknoblog artık WhatsApp'taGünün en iyi teknoloji fırsatları ve kaçırmamanız gereken büyük haberler, telefonunuza gelsin.
Kanala Katıl