Yapay zekâ sistemleri için çip geliştiren Volantis, şirket açıklamasına göre A serisi turda 88 milyon dolar yatırım aldı. Girişim, işlemciyle belleği ışık yoluyla bağlayan bir mimari üzerinde çalışıyor. Teknoblog’da daha önce ele aldığımız Raptor 3D-DRAM tasarımı da büyük yapay zekâ modellerindeki bellek darboğazına farklı bir çözüm arıyordu. Volantis’in yaklaşımında ise hesaplama ve bellek yongaları arasındaki bağlantı ön plana çıkıyor.
Yatırıma Lachy Groom ile Abstract Ventures birlikte liderlik etti. John Doerr, VXI Capital, Triatomic ve Susa Ventures da turda yer aldı. Şirketin kendi paylaşımında bugüne kadar topladığı toplam tutar 97 milyon dolar olarak veriliyor. Yeni kaynak, A-1 adlı çıkarım sisteminin geliştirilmesine, mühendislik ekibinin büyütülmesine ve müşteri teslimatlarına hazırlığa ayrılacak.
Büyük bir modelin parametrelerini bellekte tutmak tek başına yeterli olmuyor; işlemcinin bu verilere hızlı erişmesi de gerekiyor. Yonga üzerindeki SRAM yüksek aktarım hızı sunarken kapasiteyi sınırlıyor. Yüksek bant genişlikli bellek kullanan sistemler daha fazla veri depolasa da işlemciyle bellek arasındaki iletişim büyük modellerde darboğaza dönüşebiliyor. Volantis, bu iki ihtiyacı aynı mimaride karşılamayı hedeflediğini söylüyor.
İLGİNİZİ ÇEKEBİLİR
Şirketin “optik kumaş” adını verdiği bağlantı yapısı, çok sayıda bellek yongasını ortak bir havuzda buluşturmayı amaçlıyor. Veri elektrik sinyali yerine ışıkla taşınıyor. Volantis, harici lazerler yerine mikro VCSEL bileşenleri kullandığını belirtiyor. Bu seçim, hem bağlantının güç tüketimini düşürme hem de mevcut üretim zincirinden yararlanma iddiasının merkezinde. Ancak şirket henüz müşterilerin kullandığı bir A-1 sisteminden bağımsız performans sonuçları yayımlamadı.
A-1 için verilen hız rakamları henüz hedef
Volantis’in duyurusunda A-1’in 20 trilyondan fazla parametreli modelleri kullanıcı başına saniyede 10 bin tokene varan hızda çalıştıracak şekilde tasarlandığı ifade ediliyor. Bunlar satışa çıkmış bir ürünün ölçülmüş değerleri değil, geliştirme hedefleri. Dolayısıyla mevcut NVIDIA veya AMD sistemleriyle doğrudan hız karşılaştırması yapmak için erken. Donanımın güç tüketimi, gerçek iş yükündeki verimi ve toplam sahip olma maliyeti de ancak saha sonuçlarıyla anlaşılabilecek.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Reuters’ın kurucu Tapa Ghosh ile görüşmesi, bağlantı mesafesi sorununa ışıkla veri aktararak yaklaşılacağını aktarıyor. Bu sayede işlemcinin çevresine bugünkü düzenlerden daha fazla bellek yerleştirmek mümkün olabilir. Bunun yanında VCSEL teknolojisinin farklı tüketici ürünlerinde kullanılıyor olması, temel bileşenin bütünüyle yeni bir üretim sürecine dayanmadığını gösteriyor. Yine de böyle bir bağlantıyı yapay zekâ sunucusunun gerekli bant genişliğine ve ölçeğine taşımak ayrı bir mühendislik sınavı.
Volantis ilk bütünleşik çıkarım motorlarını 2027’de müşterilere ulaştırmayı planlıyor. O tarihe kadar yatırım haberi, yapay zekâ altyapısında bellek bağlantılarına yönelik arayışın bir başka örneği olarak öne çıkıyor. Şirketin iddialarının değeri ise çalışan A-1 sistemlerinin gerçek model boyutları, gecikme ve maliyet verileriyle görülecek.
