d-Matrix, üretken yapay zeka çıkarımı için geliştirdiği Raptor hızlandırıcısında 3D-DRAM belleğin ilk silikon sonuçlarını paylaştı. Şirketin ISCA 2026 verilerine göre Raptor kartı yaklaşık 105 TB/s bellek bant genişliği, 2,5 ns ortalama paket gecikmesi ve 0,376 pJ/bit I/O enerji tüketimi sunuyor. Böylece şirket, büyük dil modellerinin token üretirken karşılaştığı bellek darboğazını 3D istiflenmiş dijital bellek içi hesaplama teknolojisiyle azaltmayı hedefliyor.
d-Matrix, 3DIMC adını verdiği teknolojide özel DRAM katmanını mantık yongasıyla yüz yüze bağlayarak veri yolunu kısaltıyor. Bunun yanı sıra tasarım, geleneksel bellek PHY katmanının enerji ve gecikme maliyetini azaltırken çok sayıda DRAM bankasına paralel erişim sağlıyor. Şirket bu teknolojiyi önce Pavehawk test yongasında doğruladı, ardından Corsair’ın devamı olan Raptor’a taşıdı. Raptor özellikle eğitim yerine düşük gecikmeli üretken yapay zeka çıkarımına odaklanıyor.
Büyük dil modelleri otomatik regresif token üretirken model ağırlıklarını ve büyüyen KV önbelleğini sürekli okuyup yazıyor. Bu nedenle hesaplama birimleri yeterli gücü sunsa bile bellek veri akışına yetişemediğinde performans düşüyor. Öte yandan SRAM yüksek bant genişliği sağlarken kapasite ve bit başına maliyetle sınırlanıyor, HBM ise daha yüksek kapasite karşılığında daha fazla veri aktarım enerjisi kullanıyor. d-Matrix, 3D-DRAM ile bellek ve hesaplama katmanlarını birbirine yaklaştırarak bu iki seçenek arasında farklı bir çözüm sunuyor.
İLGİNİZİ ÇEKEBİLİR
Bir Raptor kartı 32 GB 3D-DRAM taşıyor ve dört paket kullanıyor, her paket dört chiplet’e kadar çıkıyor. Buna karşılık HBM4 tabanlı üst sınıf hızlandırıcılar daha yüksek bellek kapasitesine ulaşabiliyor. Bu nedenle tek kart belleğine sığmayan modeller birden fazla Raptor kartına dağılıyor. Şirketin gerçek silikon ölçümleri 105 TB/s bant genişliğinin yanında farklı sıcaklıklardaki yenileme davranışını ve hata düzeltme mekanizmalarını da kapsıyor.
Raptor 3D-DRAM bellek sınırını 105 TB/s’ye taşıyor
Raptor, KV önbellek akışlarını programlanabilir 3D-DRAM kanallarına dağıtan stream-blocking tekniğini ve pinsiz DBI bağlantısını kullanıyor. Ayrıca tek çevrimlik mikro bağlantı, sıcaklığa duyarlı yenileme ve ECC hata düzeltme mekanizmaları enerji tüketimini ve veri güvenilirliğini yönetiyor. ISCA çalışmasında Llama 3.1 70B, DeepSeek-V3, Kimi K2, GPT-OSS, Whisper ve Canary testleri yer alıyor. Araştırmacılar bu testlerde Raptor’ın HBM seçeneğine göre 4,71 kat, SRAM seçeneğine göre 2,44 kat daha yüksek verim sağladığını bildiriyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
d-Matrix, Alchip ile Kasım 2025’te duyurduğu iş birliği kapsamında 3DIMC teknolojisini ticari Raptor ürününe taşıyor. Bununla birlikte Raptor, iş dağıtımı, bellek koordinasyonu, çalışma zamanı kontrolü ve bazı vektör işlemleri için AndesCore AX46MPV RISC-V işlemcisini kullanıyor. d-Matrix martta her 3D-DRAM yığını için yaklaşık 20 TB/s ve 0,3-0,4 pJ/bit hedefinden söz etmişti. Şirket henüz Raptor’ın satış tarihini, fiyatını ve nihai ticari konfigürasyonlarını açıklamadı, bağımsız kuruluşlar da paylaşılan silikon sonuçlarını sistem ölçeğinde doğrulamadı.
