HBF, yapay zekâdaki bellek darboğazını hafifletebilir mi? Düşük maliyetli çıkarım ve sıkılaşan NAND arzının ikili mantığı
Bernstein, yüksek bant genişlikli flaş belleğin HBM ile geleneksel depolama arasına bir kapasite katmanı ekleyebileceğini, büyük modellerin çıkarım maliyetini düşürebileceğini ve daha fazla NAND yonga plakası kapasitesi tüketebileceğini düşünüyor; ancak performans sınırları, paketleme kaynakları ve ekosistem desteği benimsenme hızını belirleyecek.
Bernstein ·