d-Matrix, üretken yapay zeka çıkarımı için geliştirdiği Raptor hızlandırıcısında 3D-DRAM belleğin ilk silikon sonuçlarını paylaştı. Şirketin ISCA 2026 verilerine göre Raptor kartı yaklaşık 105 TB/s bellek bant genişliği, 2,5 ns ortalama paket gecikmesi ve 0,376 pJ/bit I/O enerji tüketimi sunuyor. Böylece şirket, büyük dil modellerinin token üretirken karşılaştığı bellek darboğazını 3D istiflenmiş dijital bellek içi hesaplama teknolojisiyle azaltmayı hedefliyor. d-Matrix, 3DIMC adını verdiği teknolojide özel DRAM katmanını mantık yongasıyla yüz yüze bağlayarak veri yolunu kısaltıyor. Bunun yanı sıra tasarım, geleneksel bellek PHY katmanının enerji ve gecikme maliyetini azaltırken çok sayıda DRAM bankasına paralel erişim sağlıyor. Şirket bu teknolojiyi önce Pavehawk test yongasında doğruladı, ardından Corsair’ın devamı olan Raptor’a taşıdı. Raptor özellikle eğitim yerine düşük gecikmeli üretken yapay zeka çıkarımına odaklanıyor. Büyük dil modelleri otomatik regresif token üretirken model ağırlıklarını ve büyüyen KV önbelleğini sürekli okuyup yazıyor. Bu nedenle hesaplama birimleri yeterli gücü sunsa bile bellek veri akışına yetişemediğinde performans düşüyor. Öte yandan SRAM yüksek bant genişliği sağlarken kapasite ve bit başına maliyetle sınırlanıyor, HBM ise daha yüksek kapasite karşılığında daha fazla veri aktarım enerjisi kullanıyor. d-Matrix, 3D-DRAM ile bellek ve hesaplama katmanlarını birbirine yaklaştırarak bu iki seçenek arasında farklı bir çözüm sunuyor. Bir Raptor kartı 32 GB 3D-DRAM taşıyor ve … Raptor 3D-DRAM 105 TB/s bellek bant genişliğine ulaştı haberi ilk önce Teknoblog üzerinde yayımlandı.
Yapay zekâ hızlandırıcıları için bellek bant genişliğini artırmaya odaklanan d-Matrix, Hot Chips 2026 etkinliğinde Raptor adlı yeni hızlandırıcı mimarisini tanıttı. Şirket, Raptor’da TSMC’nin N4 üretim süreciyle hazırlanan mantık (logic) yongasını özel DRAM’in doğrudan üzerine yerleştiriyor. Face-to-face istifleme yöntemiyle gerçekleştirilen bu tasarımın, işlemci ile bellek arasındaki bağlantıyı kısaltarak daha yüksek bant genişliği ve daha düşük güç…
Stories on this topic, gathered from every source.