登录注册
半导体存储—HBM显存:AI服务器标配,突破内存容量与带宽瓶颈
柴尔德
满仓搞的剁手专业户
2023-04-23 13:36:12


01

为了减小内存墙的影响,提升内存带宽一直是存储芯片聚焦的关键问题。


存储器数据访问速度跟不上处理器的数据处理速度,数据传输就像处在一个巨大的漏斗之中,不管处理器灌进去多少,存储器都只能“细水长流”。两者之间数据交换通路窄以及由此引发的高能耗两大难题,在存储与运算之间筑起了一道“内存墙”.

有数据显示,处理器和存储器的速度失配以每年50%的速率增加,随着数据的爆炸势增长,内存墙对于计算速度的影响愈发显现。



 

 

 

 

 



02

HBM突破了内存容量与带宽瓶颈,被视为新一代DRAM解决方案

DRAM功耗大,占用面积大)

 

 

 

 

HBM融合TSV、RDL、Chiplet等先进工艺

HBM 是一款新型的 CPU/GPU 内存芯片(即 “RAM”),就像摩天大厦中的楼层一样可以垂直堆叠。基于这种设计,信息交换的时间将会缩短。这些堆叠的芯片通过称为“中介层 (Interposer)”的超快速互联方式,连接至 CPU 或 GPU。将HBM的堆栈插入到中介层中,放置于 CPU 或 GPU 旁边,然后将组装后的模块连接至电路板。

 



 

03

1)AI服务器引爆HBM新型存储需求 

 

 


 


2)英伟达引领HBM在超算应用

 


04

hbm现状

4月20日,SK海力士宣布,全球范围内首次推出12层堆叠HBM3 DRAM,最高容量达24GB,目前客户性能验证中,预计23H1完成量产准备、23H2推向市场,2025年市场规模有望快速增至25亿美元。

大容量、高速存储需求增加,HBM扮演重要角色: HBM(高带宽存储器),是超微半导体和SK海力士发起的一种基于3D堆栈工艺的高性能DRAM。

HBM重新调整了内存的功耗效率,能大幅提高数据处理速度,是当下速度最快的DRAM产品,其每瓦带宽比GDDR5高出3倍,且比GDDR5节省了94%的表面积。

目前,HBM主要被安装于GPU、AI加速器、超级计算机、高效能服务器等。随着ChatGPT等应用开启AI新时代,加之相关技术演进,预计全球数据生成、储存、处理量将呈等比级数增长,HBM将扮演更重要的角色。

第三代HBM报价大涨:NVIDIA计算卡供不应求,使得HBM3显存出现了严重短缺的情况,由此导致作为HBM3显存供应商的三星及海力士产品报价不断提升,远超平均报价水准。据财联社消息,2023年开年后三星、SK海力士的HBM订单快速增加,近期HBM3规格DRAM价格上涨约5倍。

 

作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
雅克科技
S
深科技
工分
13.25
转发
收藏
投诉
复制链接
分享到微信
有用 15
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(12)
只看楼主
热度排序
最新发布
最新互动
  • E
    只看TA
    2023-05-28 00:36
    HBM
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-27 13:00
    HBM
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-27 12:59
    HBM
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-23 22:17
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • ChaoShing
    高抛低吸的游资
    只看TA
    2023-04-23 18:29
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-23 17:36
    感谢
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-23 15:00
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 1
前往