智能体推理为何会改变内存需求结构?

  • SK海力士称,2023—2026年预期上下文长度年增约2.4倍,并预计智能体Token量到2030年增至当前的24倍。上下文和推理量扩大,意味着模型运行时需要同时保留更多数据。
  • 按SK海力士给出的场景,100万Token、1024个并发会话需要13.2TB KV缓存,相当于每块GPU配备288GB HBM容量的46倍。因此,工作数据需要分布在HBM、DRAM、CXL和SSD等层级,而非只靠HBM承载。

SK海力士如何用HBM路线承接AI需求?

  • SK海力士重申一年一代的HBM技术路线。公司给出的HBM4E规格为每颗堆栈48GB,能效较HBM4提升20%、热阻改善17%;这些后续产品规格仍可能随客户需求和研发进度调整。
  • 公司强调能效而非单纯追求带宽:HBM已占机架功耗的12%—18%,且占比上升,客户关注的因而是单位电力能支持多少Token。SK海力士还提到2027年HBM5路线,带宽为HBM4E的1.75倍,并推进带定制逻辑功能底层芯片的cHBM4E。

HBM之外,DRAM与NAND怎样进入活跃层?

  • CXL内存池可在单个设备中增加TB级内存并让多台服务器共享DRAM;但SK海力士表示,因需与XPU厂商协同开发,CXL大规模商业化需要更长时间。NAND方面,公司认为SSD正从冷存储走向活跃数据层:Storage-Next企业级SSD的IOPS目标从1200万提升至约1亿,英伟达CMX也使用企业级SSD承接KV缓存溢出。
  • SK海力士将HBF(高带宽闪存)描述为把HBM技术用于NAND:带宽约为HBM的一半、容量约为10倍,每个堆栈约1TB,面向推理场景。公司预计大规模量产在2029年左右,最终样品规格计划于2027年1月发布,后续研发更新延续至2028年;摩根大通尚未将HBF纳入NAND供给测算,但认为其晶圆消耗可能成为中长期NAND供给约束,量产时间也可能随合作进展调整。
  • SK海力士还展示了将DRAM直接堆叠在计算芯片上的3D堆叠DRAM概念,理论带宽可达HBM的10倍,可填补SRAM容量有限与HBM带宽层级之间的空档。但该技术仍面临较大难度,厂商尚无实质进展,也未公布上市时间。

摩根大通看好内存周期的依据与约束是什么?

  • SK海力士在2026年第三季度业绩电话会上预计,全球AI数据中心基础设施支出到2030年将以40%的复合年增长率上升,并重申近期支出趋势将延续至次年。公司同时监控服务器客户的资金来源、财务能力、产能和电力采购,以管理潜在的过度建设风险。
  • 摩根大通据此认为内存周期仍具韧性、处于上行早期,常规DRAM基本面改善也有助于SK海力士的盈利能力。该行维持“增持”评级,2027年6月目标价为每股290万韩元,按2026—2027财年平均每股收益的7倍估值。
  • 这项判断的主要下行约束是DRAM价格和利润率低于预期,以及终端需求或库存变化;若需求强于预期、DRAM平均售价继续上涨,则是摩根大通列出的上行催化因素。

延伸阅读

相关专题