HBF có thể giảm nút thắt bộ nhớ AI? Hai luận điểm về suy luận chi phí thấp và nguồn cung NAND thắt chặt
Bernstein cho rằng flash băng thông cao có thể bổ sung một tầng dung lượng giữa HBM và lưu trữ truyền thống, giảm chi phí suy luận của mô hình lớn và sử dụng thêm năng lực sản xuất wafer NAND; tuy nhiên, giới hạn hiệu năng, nguồn lực đóng gói và hỗ trợ từ hệ sinh thái sẽ quyết định tốc độ phổ cập.
Bernstein ·