Amazon, yapay zekâ alanındaki çip yatırımlarında dikkate değer bir ilerleme kaydettiğini duyurdu. Şirketin CEO’su Andy Jassy, bu hafta gerçekleştirilen AWS re:Invent konferansında yaptığı açıklamada, Nvidia’ya doğrudan rakip olarak geliştirilen Trainium2 çipinin artık milyarlarca dolarlık gelir getiren bir iş koluna dönüştüğünü belirtti. Trainium2’nin halihazırda üretimde olan 1 milyondan fazla çipi ve 100 binden fazla kurumsal müşterisi olduğu bilgisi paylaşıldı. Jassy, bu çiplerin Amazon’un yapay zekâ geliştirme aracı Bedrock’ta yoğun şekilde kullanıldığını vurguladı.
Trainium çipleri, Amazon Web Services (AWS) üzerinden sunulan Bedrock platformunda şirketlere farklı AI modellerini kullanma imkânı sağlıyor. Jassy, Trainium2’nin pazarda öne çıkmasının temel nedenlerinden birinin performans ve maliyet dengesindeki avantajlar olduğunu ifade etti. Şirketin stratejisi, kendi geliştirdiği teknolojileri piyasadaki rakiplerine kıyasla daha uygun maliyetle sunarak müşteri kazanmak üzerine kurulu. Bu doğrultuda Trainium2, piyasadaki diğer GPU’lara göre daha verimli çalışırken, enerji tüketimi açısından da avantaj sağlıyor.
Amazon Anthropic ile iş birliğinin faydasını görüyor
AWS CEO’su Matt Garman’ın CRN ile yaptığı röportajda verdiği bilgilere göre, Trainium2’nin başarısında Anthropic ile olan iş birliğinin etkisi büyük. Anthropic’in Claude adlı yapay zekâ modellerini geliştirmesinde kullanılan 500 binden fazla Trainium2 çipi, bu iş birliğinin kapsamını gözler önüne seriyor. Proje Rainier adı verilen bu altyapı, ABD genelinde çeşitli veri merkezlerine yayılan, Amazon’un bugüne kadarki en büyük AI sunucu kümelenmesini temsil ediyor. Proje, Ekim ayında devreye alındı ve Anthropic’in artan işlem gücü ihtiyacını karşılamak üzere tasarlandı.
Amazon’un Anthropic’e yaptığı yatırım karşılığında, bu AI girişimi AWS’i birincil model eğitimi platformu olarak kullanmaya başladı. Her ne kadar Anthropic artık Microsoft’un Azure bulutu üzerinden Nvidia çipleriyle de sunulsa da, temel eğitim süreci AWS üzerinde gerçekleşiyor. Öte yandan, OpenAI da artık AWS ile çalışıyor, ancak bu kullanım Trainium çiplerini içermiyor çünkü AWS, OpenAI süreçlerini Nvidia çipleriyle yürütüyor.
Amazon, Nvidia ile rekabet edebilecek mühendislik altyapısına sahip birkaç ABD merkezli şirketten biri olarak öne çıkıyor. Şirketin çip tasarımı konusundaki uzmanlığına ek olarak yüksek hızlı veri iletişimi ve ağ teknolojileri de kendi bünyesinde geliştiriliyor. Nvidia’nın 2019 yılında Mellanox’u satın alarak InfiniBand gibi kritik ağ teknolojilerinin kontrolünü eline geçirmesi, sektördeki rekabeti daha da kızıştırdı. Buna rağmen, Trainium2’nin elde ettiği pazar payı, alternatif çözümlere duyulan ihtiyacın arttığını gösteriyor.
CUDA adlı özel yazılım mimarisi nedeniyle pek çok AI modeli hâlâ Nvidia donanımlarına bağımlı şekilde geliştiriliyor. Bu yapı, uygulamaların GPU üzerinde paralel işlem yapabilmesini sağlıyor ve alternatif çiplere geçişi zorlaştırıyor. Ne var ki Amazon’un bu bağımlılığı azaltma yönünde yeni adımlar attığı dikkat çekiyor. Şirketin üzerinde çalıştığı yeni nesil Trainium4 çiplerinin, Nvidia GPU’larıyla aynı sistem içinde birlikte çalışabilecek şekilde geliştirileceği daha önce duyurulmuştu.
