AMD, yapay zeka ajanlarının çalışmasını destekleyen Helion sunucu rafı tasarımını 12 Ekim’de duyurdu ve ilk yapılandırmalar için kasımı hedefledi. Şirket, işlemci odaklı sürümün bir raf içinde 32.768 çekirdeğe kadar çıkabileceğini resmî açıklamasında belirtti. Bunun yanı sıra kurumsal müşteriler için işlemci ve grafik işlem birimlerini aynı rafta birleştiren seçenek sunuyor. Buradaki çekirdek sayısı tek bir işlemciyi değil, raftaki sistemlerin toplamını ifade ediyor.
AMD Helion’un teknik sayfası, platformun altıncı nesil EPYC 9006 sunucu işlemcilerini ve Zen 6 çekirdeklerini kullandığını gösteriyor. Ayrıca şirket, müşterilerin farklı işlemci modüllerini aynı raf içinde karıştırabilmesini tasarımın temel amaçları arasında sıralıyor. Yoğunluk, dengeli çalışma ve yüksek frekans seçenekleri farklı ajan görevlerine hizmet ediyor.
AMD, yoğun ve dengeli sunucu seçeneklerinde 256 çekirdeği sırasıyla 400 ve 600 watt güç değerleriyle birlikte listeliyor. Öte yandan yüksek performans seçeneği, 5,0 GHz frekansa ulaşan 96 çekirdekli bir yapı kullanıyor. Böylece müşteriler, aynı platform içinde çekirdek yoğunluğu ile işlemci frekansı arasında iş yüküne uygun tercih yapabiliyor.
İLGİNİZİ ÇEKEBİLİR
Kurumsal yapılandırma, işlemci modüllerinin yanına AMD Instinct MI350P grafik işlem birimlerini ve genel amaçlı hesaplama modüllerini ekliyor. Ancak iki ayrı GPU düğümü bağımsız çalışıyor, AMD aralarında tek bir birleşik GPU alanı kurmuyor. Şirket, Helios’u büyük ölçekli model eğitimi ve çıkarım için, Helion’u ise ajan altyapısı için konumlandırıyor.
AMD açık tasarımı kasımda kullanıma sunmayı planlıyor
Resmî Helion duyurusu, açık donanım ile yazılımı birlikte kullanan ve model çağrılarını yönlendiren bir token yönlendiricisi tarif ediyor. Bu bileşen, ajanların çağrılarını gelişmiş modeller ile açık kaynak modeller arasında dağıtmayı amaçlıyor. Bununla birlikte AMD, hava ve sıvı soğutmalı seçeneklerin farklı veri merkezi ihtiyaçlarını karşılayacağını belirtiyor. Mevcut bilgi işlem yatırımlarına uyum da şirketin duyuruda vurguladığı hedefler arasında bulunuyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
AMD, Helion teknik tanımını Open Compute Project topluluğuna sunarak tasarımın geliştirilmesini ve benimsenmesini desteklemeyi planlıyor. Cisco, Dell, HPE, Lenovo, Supermicro ve Wiwynn, duyuruda görüş veren ekosistem ortakları arasında yer alıyor. Buna karşılık kasım tarihi, ortaklarla geliştirme aşamasındaki yapılandırmaların hedef takvimini gösteriyor. Şirket bu duyuruda bütün kurulumlar için tek bir satış fiyatı veya ortak teslim tarihi açıklamıyor.
Helion’un iki yapılandırması, büyük bulut işletmeleri ile işletmelerin ajan çalıştırma ihtiyaçlarına farklı donanım birleşimleriyle yanıt vermeyi amaçlıyor. CPU odaklı raf, ayrı model çıkarım altyapısına bağlanan ajanlar için özel işlem kapasitesi sağlıyor. Kurumsal seçenek ise bu ajan kapasitesini GPU çıkarımıyla aynı rafta buluşturuyor. Donanım seçimini değerlendirirken toplam çekirdek sayısıyla birlikte ajanların gerçekleştireceği görevleri de hesaba katmak gerekiyor.
