L40s与A/H定位不同
夜长梦山
2023-08-10 10:18:22
【行业重要更新】L40s与A/H定位不同，继续看好算力板块
8月8日Nvidia发布L40s版本服务器，其中与A/H算力和效率的比较成为近日市场关注讨论的热点，甚至有认为L40s会替代A/H产品的说法，导致板块波动。我们与互联网大厂、大模型企业、GPU企业等产业圈请教，观点总结如下：
💎这个问题的核心是卡间带宽问题，任何GPU卡不带NV-Link，解决不了并行计算集群问题，其他参数再好也无用。
💎L40s仅在单卡算力比A高，但存储/互联差距较大。节点内互联看，L40s架构节点内GPU互联仍采用PCIE 4.0（x16带宽为31.5GB/s），而A/H100分别采用Nvlink3.0/4.0，互联带宽为300/450 GB/s，差异极大；存储上，L40s采用48GB GDDR6，而A/H100分别采用高性能的80GB HBM2e或HBM3，读写速率也远高于L40s。考虑存储、网络架构的性能差异较大，L40s比A100价格略低一些，我们预计L40s定位为中小客户的训练和推理的长尾市场覆盖，以解决这类客户A/H产品无法获得，而又需开发AI的问题，但不会成为大厂算力集群、AI云业务的选择。
💎组网预计以Ethernet为主，将促进200G/400G需求回暖。L40s应用的服务器主要采用CX-7网卡，该类网卡可以为单端口的NDR400G，也可以为双端口的200G。由于IB交换机交期长，预计主要方案以以太为主。我们预计一个8卡节点仍使用4个CX-7网卡，约为单卡对应1个200G服务器光模块，对应到交换机层可使用200G/400G交换机。无论是以太还是IB无阻塞组网，对应2层/3层网络分别为1:4/1:6，与A100组网没有差异，而且交期更短，可能更快促进200G/400G需求回暖。
💎最后，简答从商业逻辑上讲，任何一家企业推出新产品一定是为了补强产品矩阵，而忌讳不同场景的竞争。就像光模块企业推出新的电信级光模块，并不会对其数通级产品形成替代关系，而是丰富其产品的覆盖场景。
8月8日Nvidia发布L40s版本服务器，其中与A/H算力和效率的比较成为近日市场关注讨论的热点，甚至有认为L40s会替代A/H产品的说法，导致板块波动。我们与互联网大厂、大模型企业、GPU企业等产业圈请教，观点总结如下：
💎这个问题的核心是卡间带宽问题，任何GPU卡不带NV-Link，解决不了并行计算集群问题，其他参数再好也无用。
💎L40s仅在单卡算力比A高，但存储/互联差距较大。节点内互联看，L40s架构节点内GPU互联仍采用PCIE 4.0（x16带宽为31.5GB/s），而A/H100分别采用Nvlink3.0/4.0，互联带宽为300/450 GB/s，差异极大；存储上，L40s采用48GB GDDR6，而A/H100分别采用高性能的80GB HBM2e或HBM3，读写速率也远高于L40s。考虑存储、网络架构的性能差异较大，L40s比A100价格略低一些，我们预计L40s定位为中小客户的训练和推理的长尾市场覆盖，以解决这类客户A/H产品无法获得，而又需开发AI的问题，但不会成为大厂算力集群、AI云业务的选择。
💎组网预计以Ethernet为主，将促进200G/400G需求回暖。L40s应用的服务器主要采用CX-7网卡，该类网卡可以为单端口的NDR400G，也可以为双端口的200G。由于IB交换机交期长，预计主要方案以以太为主。我们预计一个8卡节点仍使用4个CX-7网卡，约为单卡对应1个200G服务器光模块，对应到交换机层可使用200G/400G交换机。无论是以太还是IB无阻塞组网，对应2层/3层网络分别为1:4/1:6，与A100组网没有差异，而且交期更短，可能更快促进200G/400G需求回暖。
💎最后，简答从商业逻辑上讲，任何一家企业推出新产品一定是为了补强产品矩阵，而忌讳不同场景的竞争。就像光模块企业推出新的电信级光模块，并不会对其数通级产品形成替代关系，而是丰富其产品的覆盖场景。
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
中际旭创
工分
9.41
转发
收藏
投诉
复制链接
分享到微信
有用 3
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
暂无数据