【国盛通信】重要更新!英伟达推出H200,AI再提速!
今日美股开盘前,英伟达投资者关系官网宣布推出NVIDIA HGX H200,用于生成式AI和高性能计算工作负载。此前市场对H200产品预期在24年发布,本次发布H200从节奏上明显超预期。
H200首次采用HBM3e,可加速生成式 AI 和大型语言模型,以4.8TB/s的速度提供 141GB 内存,与A100 相比,容量几乎翻倍,带宽增加 2.4 倍。H200将于2024Q2正式发货。
英伟达表示,H200与H100比较,训练700亿参数的Llama2模型速度几乎翻倍。未来的软件更新预计将会带来H200更多额外的性能优势。H200与H100的硬件和软件兼容,且可与GH200兼容使用。
点评:从算力上看,H200与H100几乎一致,本次主要升级在于HBM3e,对应带宽提升后,直接提高了大模型训练效果,再次印证了我们一直强调的打破“通信墙”的重要性。
继续坚定推荐算力核心环节光通信:中际旭创、新易盛、天孚通信、源杰科技、太辰光、腾景科技、盛科通信等。