Сможет ли HBF ослабить дефицит памяти для ИИ? Две стороны вопроса: более дешёвый инференс и сокращение предложения NAND
По мнению Bernstein, флеш-память с высокой пропускной способностью может добавить уровень ёмкости между HBM и традиционными системами хранения, снизить стоимость инференса крупных моделей и потреблять больше производственных мощностей по выпуску пластин NAND. При этом темпы внедрения определят ограничения производительности, ресурсы для корпусирования и поддержка экосистемы.
Bernstein ·