英伟达GH200 vs AMD MI300（华泰）
加油奥利给
下海干活的韭菜种子
2023-06-02 00:29:49
作者：何翩翩(华泰)
千呼万唤始出来，DGXGH200超级计算系统助力新一代大AI模型英伟达在2023 COMPUTEX大会上更新了多款AI算力产品。当中焦点落在DGXGH200超级计算系统上。该系统是通过NVLink互连技术及NVLinkSwitch System，串联32台由8块GH200超级芯片（总计256块）合并而成的单一超级计算系统，存储器容量高达144 TB，大规模的共享内存能解决AI大模型训练的关键瓶颈，将为生成式AI语言应用、推荐系统和数据分析工作负载的大模型增添动力。英伟达宣布Google Cloud、Meta与微软将是其首批用户。先进的加速计算+网络技术，为吞吐量和可扩展性迎来新突破DGXGH200集成了英伟达最先进的加速计算和网络技术，为提供最大的吞吐量和可扩展性而设计。NVIDIANVLink-C2C将CPU与GPU相连组成GH200超级芯片，它们再通过NVLink Switch System组成高带宽的多GPU系统，每个Grace Hopper超级芯片还配有一个NVIDIAConnectX-7网络适配器和一个NVIDIABlueField-3 NIC。从具体参数上看DGXGH200性能优异，DGXGH200可提供高达1 exaFLOPS=1000 petaFLOPS的算力。在2023年底，结合Quantum-2 InfiniBand技术与4台DGXGH200的AI超级计算机NVIDIAHelios（含1024=4*256个GH200超级芯片）将会推出，或标志英伟达在AI和数据分析工作负载加速计算的又一突破。英伟达GH200 vs AMDMI300，互联和生态圈或是AMD破局的主要障碍英伟达的Grace Hopper与AMD的MI300同为CPU+GPU架构。我们认为，该架构已成为AI芯片的趋势，鉴于AI的最终目标是模仿人类大脑的操作，AI芯片也应仿生人脑结构，并顺应多模态模型的发展。CPU更像左脑，负责对信息的逻辑处理，如串行运算、数字和算术、分析思维、理解、整理等，而GPU更像右脑，负责并行计算、创造性思维和想象等。在面对不同模态的推理时，CPU与GPU的分工也各有不同。例如，在处理语音、语言和文本时，计算有序，因此或更适合使用CPU；但在处理图像、视频等推理时，需要大规模并行运算，或更适宜GPU。此前，英特尔也曾准备发布同类产品Falcon Shores。AI训练多方入局苗头初生，AI推理百花齐放难决胜负英伟达的高算力GPU一直是AI训练的首选，但随着谷歌TPU、AMDMI300及云厂商自研芯片等的强势涌入，AI训练的市场格局变化苗头渐生。谷歌的TPU是少数能与英伟GPU匹敌的芯片，但面临着通用性的局限；AMDMI300在制程、架构及算力等多方面虽向英伟达GPU看齐，但仍存在软件生态和互联的突围障碍。在TCO、研发可控性及集成生态圈等因素下，微软、谷歌及亚马逊等头部云厂商推进自研芯片乃大势所趋。在算力要求比训练低的推理端，各类芯片百花齐放，主要根据不同AI工作负载来选择，或不会演变出像训练端一家独大的竞争局面。总体而言，AI训练和推理的TAM虽在不断变大，但英伟达在当中的增速能否跟上是支撑公司发展的关键。从Spectrum-X网络平台到超算系统，英伟达为AI计算全面加速除了GH200芯片及DGXGH200超算系统的重磅发布，CEO黄仁勋在本次2023 COMPUTEX还宣布了多款新品全面加速AI计算：专门用于提高以太网AI云性能和效率的网络平台Spectrum-X及用于创建加速服务器的模块化参考架构NVIDIAMGX，为AI及HPC的客户提供多元化选择。风险提示：AI技术落地和推进不及预期、竞争格局越演越烈、中美关系升级。相关信息数据来自于相关公司的公开的客观信息，不代表对相关公司的研究覆盖和推荐。
千呼万唤始出来，DGXGH200超级计算系统助力新一代大AI模型英伟达在2023 COMPUTEX大会上更新了多款AI算力产品。当中焦点落在DGXGH200超级计算系统上。该系统是通过NVLink互连技术及NVLinkSwitch System，串联32台由8块GH200超级芯片（总计256块）合并而成的单一超级计算系统，存储器容量高达144 TB，大规模的共享内存能解决AI大模型训练的关键瓶颈，将为生成式AI语言应用、推荐系统和数据分析工作负载的大模型增添动力。英伟达宣布Google Cloud、Meta与微软将是其首批用户。先进的加速计算+网络技术，为吞吐量和可扩展性迎来新突破DGXGH200集成了英伟达最先进的加速计算和网络技术，为提供最大的吞吐量和可扩展性而设计。NVIDIANVLink-C2C将CPU与GPU相连组成GH200超级芯片，它们再通过NVLink Switch System组成高带宽的多GPU系统，每个Grace Hopper超级芯片还配有一个NVIDIAConnectX-7网络适配器和一个NVIDIABlueField-3 NIC。从具体参数上看DGXGH200性能优异，DGXGH200可提供高达1 exaFLOPS=1000 petaFLOPS的算力。在2023年底，结合Quantum-2 InfiniBand技术与4台DGXGH200的AI超级计算机NVIDIAHelios（含1024=4*256个GH200超级芯片）将会推出，或标志英伟达在AI和数据分析工作负载加速计算的又一突破。英伟达GH200 vs AMDMI300，互联和生态圈或是AMD破局的主要障碍英伟达的Grace Hopper与AMD的MI300同为CPU+GPU架构。我们认为，该架构已成为AI芯片的趋势，鉴于AI的最终目标是模仿人类大脑的操作，AI芯片也应仿生人脑结构，并顺应多模态模型的发展。CPU更像左脑，负责对信息的逻辑处理，如串行运算、数字和算术、分析思维、理解、整理等，而GPU更像右脑，负责并行计算、创造性思维和想象等。在面对不同模态的推理时，CPU与GPU的分工也各有不同。例如，在处理语音、语言和文本时，计算有序，因此或更适合使用CPU；但在处理图像、视频等推理时，需要大规模并行运算，或更适宜GPU。此前，英特尔也曾准备发布同类产品Falcon Shores。AI训练多方入局苗头初生，AI推理百花齐放难决胜负英伟达的高算力GPU一直是AI训练的首选，但随着谷歌TPU、AMDMI300及云厂商自研芯片等的强势涌入，AI训练的市场格局变化苗头渐生。谷歌的TPU是少数能与英伟GPU匹敌的芯片，但面临着通用性的局限；AMDMI300在制程、架构及算力等多方面虽向英伟达GPU看齐，但仍存在软件生态和互联的突围障碍。在TCO、研发可控性及集成生态圈等因素下，微软、谷歌及亚马逊等头部云厂商推进自研芯片乃大势所趋。在算力要求比训练低的推理端，各类芯片百花齐放，主要根据不同AI工作负载来选择，或不会演变出像训练端一家独大的竞争局面。总体而言，AI训练和推理的TAM虽在不断变大，但英伟达在当中的增速能否跟上是支撑公司发展的关键。从Spectrum-X网络平台到超算系统，英伟达为AI计算全面加速除了GH200芯片及DGXGH200超算系统的重磅发布，CEO黄仁勋在本次2023 COMPUTEX还宣布了多款新品全面加速AI计算：专门用于提高以太网AI云性能和效率的网络平台Spectrum-X及用于创建加速服务器的模块化参考架构NVIDIAMGX，为AI及HPC的客户提供多元化选择。风险提示：AI技术落地和推进不及预期、竞争格局越演越烈、中美关系升级。相关信息数据来自于相关公司的公开的客观信息，不代表对相关公司的研究覆盖和推荐。
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
优刻得
S
腾景科技
S
胜宏科技
S
通富微电
S
世运电路
工分
23.34
转发
收藏
投诉
复制链接
分享到微信
有用 29
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
评论（32）
只看楼主
热度排序
最新发布
最新互动
- 1
- 2