英伟达发布新一代AI芯片H200 推动HBM需求提升
英伟达最新推出NVIDIA HGX H200,为生成式AI和HPC工作负载提供更强的性能和内存能力。H200首次采用HBM3e,可加速生成式 AI 和大型语言模型,以4.8TB/s的速度提供 141GB 内存,与A100 相比,容量几乎翻倍,带宽增加 2.4 倍。H200将于2024年二季度正式发货。国盛证券认为,从算力上看,H200与H100几乎一致,本次主要升级在于HBM3e,对应带宽提升后,直接提高了大模型训练效果。天风证券认为,AI芯片的升级对当前迅速发展的AI行业意义重大。随着硬件技术进步,对更高性能和更快速的训练和推理需求也在不断增加。相关公司方面,华海诚科主营半导体封装材料,颗粒状环氧塑封料(GMC)可以用于HBM(高带宽内存)封装。联瑞新材是无机填料和颗粒载体行业龙头,部分客户是全球知名的GMC供应商,公司配套供应HBM所用球硅和Lowα球铝。
根据TrendForce集邦咨询,2023-2025年HBM市场CAGR有望成长至40-45%以上,至2025年市场规模有望达25亿美元。其中海力士是绝对龙头,市占率达50%;
相关公司:
深科技:HBM(高带宽存储芯片,配套算力底座GPU)将数个DRAM裸片堆叠起来与数据中心GPGPU配合工作。公司具备8层和16层DRAM堆叠工艺,有望切入HBM封装赛道。
通富微电:公司2.5D/3D生产线建成后,将实现国内在HBM高性能封装技术领域的突破;
雅克科技:子公司UPChemical是韩国存储芯片龙头SK海力士核心供应商。
拓荆科技:ALD 沉积在 HBM工艺中不可或缺,公司是国内ALD设备的主要供应商之一。
中微公司:TSV 技术(硅通孔技术)是HBM的核心技术之一,公司是TSV 设备主要供应商。
香农芯创:子公司联合创泰是SK海力士的代理商,向 SK 海力士采购的产品为数据存储器。
华海诚科:公司颗粒状环氧塑封料用于HBM的封装,应用于HBM的材料已通过部分客户认证。
国芯科技:正在研究规划合封多HBM内存的2.5D的芯片封装技术。
联瑞新材:SK公司为公司大客户(R客户正在突破过程中),券商认为公司或是A股中唯一有HBM敞口的公司