Bernstein: ¿Puede HBF aliviar el cuello de botella de memoria de la IA? La doble lógica de una inferencia de menor costo y una oferta de NAND más ajustada
Bernstein considera que la memoria flash de alto ancho de banda podría añadir una capa de capacidad entre HBM y el almacenamiento convencional, reducir el costo de inferencia de los modelos grandes y consumir más capacidad de producción de obleas NAND; sin embargo, las limitaciones de rendimiento, los recursos de encapsulado y el apoyo del ecosistema determinarán el ritmo de adopción.
