登录注册
Marve llAI Day“算力和网络结构的变化“”
金融民工1990
长线持有
2024-04-15 22:38:11

会议要点

1、Marvell AI Day信息梳理

· Marvell业务主要围绕交换机、芯片、以太网、硅光等展开,同时涉及定制计算,为云厂商开发定制化ASIC芯片。

· AI计算对网络架构产生影响,市场关注GPU与光模块比例变化等信息。

2、Marvell AI Day核心亮点

· 生成式AI给产业带来改变,数据中心架构、互联、交换、自定义计算等方面均有涉及。

· Marvell业务覆盖加速计算所需的各个方面,每个细分业务都受益于AI推动。

3、Marvell产品与市场

· Marvell强调连接业务,预计随着AI推进,数据中心连接数量将增加。

· 交换芯片速率提升,Marvell在交换芯片产品布局上有明确规划。

· Marvell面临定制芯片机遇,通过收购完善能力范畴,预计AI对其收入影响将在2025财年开始显现。

4、市场趋势与预测

· Marvell给出乐观的市场增长预期,特别强调定制加速计算的增长。

· 预计未来AI将推动光学连接增长快于加速器,光互联用量增长迅速。

5、技术革新与产品更新

· Marvell在光模块的数字信号处理组件上有所突破,提升传输效率。

· 新产品800G可插拔DCI模块和硅光引擎展示技术进步,市场增长预期。

6、定制芯片业务

· Marvell预计定制芯片市场将快速增长,公司在该领域已有所布局。

7、AI对算力需求的影响

· AI推动下,数据中心的算力需求结构和节奏发生变化,推理需求占比增加,带来算力需求的稳定性。

8、产业趋势与投资关注

· 重点关注美股AI公司及相关产业链公司,特别是算力环节的兑现情况。

 

1、 行业变革与机遇展望

· 各位领导下午好。今天我们将汇报关于Marvell在AI领域的最新进展,这是上周五大家关注的焦点。相关PPT和会议纪要已经发布,内容丰富。虽然部分信息我们之前已经了解,但也有新的环节被详细介绍。

· 会议主要围绕Marvell的业务展开,特别是交换机领域。交换机设计涉及多个细分市场,Marvell在这些领域都有业务布局,包括芯片、以太网、硅光等。此外,还有一个较少提及的领域,即定制计算,类似于博通为云服务商开发的定制化ASIC芯片。

· 市场对上周五的讨论最感兴趣的是AI计算和AI加速计算对网络架构的影响,以及GPU和光模块之间比例的变化。我们将梳理Marvell AI Day的主要信息,并详细讨论一些值得关注的点。接下来,我们将探讨AI加速计算对算力和网络的影响,特别是未来算力需求结构和节奏的变化。现在,请彭刚为我们详细介绍Marvell AI Day的情况。

· 彭刚:各位领导下午好。今天我将为大家梳理Marvell AI Day的一些新变化,以及我们从会议中了解到的行业对连接、交换和芯片的需求。首先,我们回顾一下Marvell AI Day的主要亮点。最受关注的是生成式AI给产业带来的变化。为了解释这个问题,Marvell邀请了几位主要负责人分别介绍各自领域的情况。除了首席执行官介绍整体机会外,负责数据中心架构的Lou也分享了他的见解。我们可以看到,针对互联、交换和定制计算三个方面,都有相关负责人进行汇报,尽管存储方面的讨论较少。

· Marvell将产业定义为加速基础设施产业,针对AI加速计算,需要大量基础设施。Marvell的业务主要分为计算、连接和存储三大板块。在连接方面,又可细分为交换和互联。Marvell的业务基本涵盖了加速计算所需的各个方面,每个细分业务都将从AI的推动中受益。

· Marvell特别强调连接的重要性,包括交换和互联。从数据中心的形态来看,AI服务器之间需要连接,包括前端和后端的连接。每个连接的两端都会有相应的光模块,其中涉及数字信号处理等核心技术。随着AI的发展,数据中心的连接将越来越多,为Marvell带来更多机会。

· 连接的增加背后的逻辑是,通用计算通常使用单一处理器处理单一负载,而加速计算则需要多个处理器连接起来解决问题。因此,随着AI的发展,加速计算的需求增加,连接数量也随之增加。同时,需要更多数据和带宽,端口速度也需要提高。连接数量和速度的提升共同推动了整个连接需求的增长。

· 在交换方面,与连接有所不同,主要涉及交换芯片。Marvell特别强调了其在交换领域的产品布局,提到12.8T产品已大规模生产,新的51.2T产品也即将投入生产。与博通类似,Marvell也受益于这一产业趋势。

· 此外,Marvell还提到了定制芯片的机遇。他们提到了多种类型的定制芯片,包括定制GPU和CPU。通过收购,Marvell不断完善其定制芯片的能力。这与通信传输厂商的常见做法相似,他们通常通过收购来补充定制芯片的能力。

· 产业逻辑有两个方面:一是大型厂商开发定制芯片以降低成本,满足需求;二是涉及多客户、多应用、多SKU以及产品更新迭代,共同构成定制芯片产业的成长机遇。

· Marvell在2021年的投资者日就已提及定制芯片,虽然他们在这一领域的布局较早,但收入释放相对较慢。在2021年,Marvell预计每年将有8亿美元的定制芯片收入,但从目前情况来看,定制芯片尚未为其带来太多收入。因此,Marvell在定制芯片领域仍面临整体机遇。

2、MarvellAI业务增长与市场展望

· 在最新的Marvell AI Day上,公司透露了在该领域获得了一位重要客户,这是市场之前未曾注意到的。事实上,Marvell之前已经为两家大型云服务商提供定制芯片,而现在,美国四大云服务商中有三家都是其客户,很可能是Amazon和Google,也有可能是Microsoft。目前,我们可以进一步验证这一点。Marvell的整体定制芯片业务正在发生变化。

· 公司还提到了其研发投入,每年的支出为15亿美元。除此之外,Marvell还与客户共同研发,因此实际投入的规模比这个数字更大。公司投入的方向包括针对先进制程技术的突破,以及丰富的IP资源。特别值得一提的是,Marvell的服务技术在定制芯片过程中发挥了重要作用,这也是公司技术积累的一部分。此外,公司的封装技术和长期设计经验也是其竞争优势的一部分。

· 总体来看,Marvell在过去两年中AI收入实现了快速增长。在2024财年,其AI收入已达到5.5亿美元。公司对未来发展持乐观态度,预计到2025财年,收入将达到15亿美元,到2026财年将超过25亿美元。特别是在2025财年,预计约三分之一的收入将来自定制芯片。这表明Marvell认为定制芯片的影响将从2025财年开始逐步显现。

· Marvell还对整体市场进行了阐述,给出了一系列数据,特别是对从当前时点看未来五年的增长做出了乐观预测。公司首先分析了整体数据中心的资本支出,排除了与建筑和其他设备相关的部分,专注于半导体领域。在半导体领域,Marvell又排除了模拟和内存部分,专注于核心半导体市场。2023年,核心半导体市场规模为820亿美元,其中计算领域占了680亿美元,其他领域大约在40到60亿美元之间。

· 对于未来增长,Marvell特别强调了定制加速计算的增速。2023年,公司预计自己能触及的市场规模为210亿美元,未来五年的复合年增长率为29%。其中,加速定制计算的复合增速最快,达到45%。互联的复合增速为27%,交换为15%,存储为7%。公司预计,市场份额将从10%增长到20%。

· Marvell还提到,随着AI的发展,光学连接的增长将快于加速器的增长。在集群训练模型的过程中,随着模型体量的增大,所需的连接数量也在增加。预计未来,光互联的使用量将快速增长,特别是在大规模集群中。此外,新的数据中心建设也将推动光学互联的增长,原因包括对更强电力支持的需求以及数据安全法规的要求。

· 综上所述,Marvell对自身在AI领域的未来发展持乐观态度,并预计其在核心半导体市场的份额将继续增长。

3、 连接技术与AI发展

· 在本次会议中,我们将向各位领导汇报关于连接技术的相关内容。首先,我们需要明确连接技术的具体含义。我们将从几个维度进行汇报。

· 首先是计算结构连接,它涉及不同加速单元之间的连接,主要采用NVLink等连接协议,通常以铜质材料和被动方式实现。这一领域并非Marvell参与的范畴,因此在此不做详细汇报。

· 其次是后端网络,它负责连接AI服务器与集群内其他服务器。后端网络主要在集群内部实现服务器间的连接,使用的协议包括InfiniBand(IB)或光纤以太网。随着AI技术的发展,服务器间的协同作业需求增加,后端网络的作用变得尤为重要。Marvell在这一领域有所参与。

· 第三是前端网络,与后端网络不同,它负责连接服务器与数据中心。前端网络主要处理数据进出服务器的过程,通常采用光纤以太网技术。这是数据中心内部连接的另一种形态。

· 最后是数据中心间互联(DCI),它通过光纤连接不同数据中心,覆盖的距离通常较长,以公里计算。Marvell在这一领域也有所布局。

· 总结来说,Marvell主要参与后端网络和前端网络的建设,以及DCI的实现。这些连接技术的变化受到AI发展的驱动,对Marvell的业务产生了积极影响。在网络架构方面,Marvell拥有完整的产品线,包括光模块、DSP和硅光模块等,这些都有助于提升数据中心的连接性能。

· 此外,Marvell还关注于解决AI带来的问题,并通过其产品提供解决方案。例如,随着AI模型的复杂性增加,前端网络的交换层数可能从三层扩展到四层或五层,这将改变计算单元与光互连的比值。后端网络也需要适应AI服务器间的协同作业需求。DCI则因数据交换需求的增加而受到AI发展的推动。

· 在产品更新方面,Marvell致力于解决AI带来的挑战,并不断优化其连接产品。公司的负责人拥有丰富的行业经验,并成功整合了Marvell和英飞凌光学团队的资源,以打造更高效的连接产品。

· 以上就是关于Marvell在AI算力和网络结构变化方面的汇报。我们期待Marvell在未来能够继续发挥其在连接技术领域的优势,并为AI发展提供强有力的支持。

4、 光模块技术创新与市场机遇

· 在这次会议中,我们了解到Marvell公司的核心产品更新情况。首先,公司强调了其在光模块领域的数字信号处理(DSP)组件的创新。无论是服务器间的短距离连接还是数据中心间的长距离连接,光模块中的DSP和激光驱动器等关键部件都起着至关重要的作用。Marvell的技术核心在于提供稳定的连接状态,支持大规模连接,同时减少手动微调的需求。此外,公司在激光驱动器领域不断突破先进制程,以提升传输效率。

· Marvell的技术壁垒源于其丰富的知识产权(IP)积累。除了定制芯片领域,半导体领域的其他方面也涉及大量IP。公司提到的相干IP和PIP等都是确保优秀传输效果的关键。除了IP积累,Marvell还注重与客户的合作和迭代,这是其逐步形成竞争优势的重要原因。数据中心内部的技术趋势正在加速发展,Marvell的DSP技术在光模块中扮演着重要角色。公司已经发布了1.6T产品,每个通道200G,共八个通道。随着AI技术的发展,连接速度的提升使得市场迭代周期从四年缩短到两年,市场增长不仅由数量驱动,也由更高的带宽和支持内容驱动。

· Marvell还提到了一个新的机遇,即AEC技术。这种技术通过在铜缆中添加电子设备,对其进行技术改造,以解决随着速度提升而增加的物理损耗问题。尽管AEC技术过去在低速场景中使用较多,但随着速度的增加,Marvell正与行业内的生态伙伴合作,预计未来这将是一个10亿美元的新市场。

· 在数据中心之间的连接方面,Marvell提出了800G可插拔的DCI相关模块,这种模块能够实现数据中心之间的数据传输,覆盖从一米链路到千公里链路的范围。这一新产品有望取代传统的网络盒,为Marvell带来另一个数10亿美元的市场。随着数据中心集群规模的扩大,新的连接需求也将出现。

· 展望未来,Marvell预计其连接市场将从34亿美元增长到五年后的百亿美元。数据中心内光学领域的增长预计将以25%的复合年增长率增长,AEC领域的增速预计为60%,达到10亿美元。DCI领域的增速预计为25%,增长到30亿美元。这些数据表明,Marvell在连接技术方面的变革和市场增长前景十分广阔。

5、硅光技术革新与AI算力需求变革

· 在光模块领域,硅光技术的进步有助于降低传输成本。过去的EML技术,即外部调制激光器技术,被视为下一代1.6T光学模块中分立激光器的首选。而现在,技术革新采用了新型的CW激光方式进行改进。这种新技术强调集成化解决方案,通过集成降低成本,减少激光器数量,同时提供更好的可靠性和扩展性。新产品的推出,如硅光引擎,每个通道支持200G的光电性能,总带宽达到6.4T,并采用模块化设计。这种集成方式使得随着带宽增加,成本能够更快速下降。初期,该技术主要应用于风能场景,但随着传输需求的增长,硅光引擎将在更多场景中发挥作用。长期来看,随着自定义计算的推进,新的传输技术将有更广阔的应用前景。硅光技术的应用预计将带来市场增长,预计到2026年,市场规模将达到110亿美元,年复合增长率预计为27%。

· 在交换芯片领域,博通的表现一直较为突出。Marvell的负责人曾在博通和高通有过丰富的工作经验,现在主要负责交换相关的业务。交换芯片在网络中的需求日益增长,因为无论是前端还是后端,都有对高性能交换芯片的需求。前端的加速处理器端口数量可能是通用处理器的2到3倍,并且预计未来还会继续增加。后端方面,AI对数据交换的需求更大,同时也需要专用的交换结构。无论是以太网还是IB方案,都显示出明显的增长趋势。然而,交换芯片的研发难度较大,需要先进的工艺技术和串行接口,同时还要在高容量、低延迟和节能之间找到平衡。AI的引入给产业带来了变革,Marvell通过收购和技术整合,推出了新一代51.2T的交换芯片,预计将在今年夏天开始生产。AI还将推动从专有平台向开放平台的转变,提高流量工程的效率,并可能改变网络架构,为交换芯片创造新的市场空间。预计到2028年,交换芯片市场将增长到120亿美元,年复合增长率为15%。

· 在AI对算力需求的影响方面,ASIC定制芯片的发展值得关注。云厂商对定制计算的需求日益增长,这被视为降低成本的重要方式。Marvell通过并购和团队整合,抓住了数据中心中的机遇,不仅在定制芯片领域有所作为,还在存储和CPU等领域展现了实力。尽管芯片设计难度高,但Marvell凭借IP积累和设计基础,成功地在市场中占据了一席之地。

6、Marvell AI驱动数据中心增长

· 总体来说,Marvell公司通过定制芯片业务拓展了市场空间。目前,该市场规模约为66亿美元,预计未来五年将以45%的复合年增长率增长,达到400多亿美元的规模。Marvell在其中的市场份额预计将有所提升,目前该业务板块的收入还相对较低。

· 在AI领域,Marvell的收入结构相对稳定,其中40%来自数据中心,其余60%来自其他业务。AI相关的收入主要来自数据中心业务,包括太网交换、存储、AI服务器和DCI等。尽管前几个季度增长不太理想,但四季度数据中心的收入同比增长迅速,主要得益于人工智能的推动。预计未来将逐步复苏,目前数据中心的收入约为20亿美元。

· 根据Marvell的指引,我们预测24财年AI相关的收入为5.5亿美元,明年将达到15亿美元,后年超过25亿美元。公司特别强调,人工智能将成为重要的增长驱动力,目前主要集中在光学相关部件。随着时间的推移,定制芯片的收入也将逐步增长。尽管与博通相比,Marvell在收入规模上仍然较小,但这反映了公司自身的业务节奏。

· 核心信息方面,Marvell对数据中心基础加速计算基础设施的增速进行了预测,预计定制加速芯片市场的增速预期非常高。数据中心交换芯片的五年复合增速为15%,有望在五年后达到120亿美元的市场规模。如果Marvell的市场份额从10%增长到20%,那么其数据中心AI收入将有46%的五年复合增长率。

· 此外,Marvell提到了产品线的多个方面,包括互联用量的大幅增长,计算单元与光互联的比重变化,以及AI推动BSP加速升级等。公司还强调了数据中心内部新的互联需求,如AEC技术和800G可插拔的DCI相关模块。今年下半年,Marvell将对世界上第一个数据中心内部的相关产品进行采样。

· 在定制芯片方面,Marvell获得了新客户,预计2026年将投入生产,这将为公司的AI收入带来增量。总体来看,AI对Marvell的影响主要体现在连接数量的增加,以及通过技术创新解决细分问题,以适应未来更大、更复杂的集群需求。

· 最后,Marvell强调了定制计算的重要性,这与博通的业务非常相似。目前,定制计算的需求主要来自几家科技巨头,其中谷歌和Meta较为激进。亚马逊和微软的自研芯片进展也较快,亚马逊的第二代ASIC芯片已经开始商业化。在整个加速计算领域,训练和推理是关键环节,而推理对算力的需求相对持续,这也是为什么需求增长后不会立即下降的原因。

7、中美云计算与AI算力需求分析

· 在过去的云计算时代,我们可以大致了解一下情况。美国的云计算大规模发展始于2010年,到了2015至2016年才真正开始加速。这期间,中国的移动互联网渗透率也达到了最高点。因此,中美科技的发展在某种程度上是相互交织、共同进步的。

· 从2005年以来,我们可以通过观察大型厂商的资本开支来了解云收入的变化。这些信息有助于我们判断芯片需求,因为目前看来,芯片需求主要体现在大厂的资本开支上。目前,大厂的资本开支每年大约在400亿美元左右,每个季度约100亿美元。观察他们的云收入和资本开支的变化,我们可以发现,资本开支并没有减少的趋势。

· 除了亚马逊之外,我们需要特别关注微软、谷歌等公司。亚马逊的需求中,传统CPU和计算需求占比较大。而微软、谷歌等公司对加速计算的需求则在不断增加。

· 资本开支的持续增长表明,AI对加速器的需求也在不断上升。我们需要关注的是,AI产业对资本开支的需求是否也会持续增长。从整体趋势来看,不同时间段的需求点会有所不同。例如,微软的资本开支在2016至2017年、2020年疫情期间以及2021至2022年有所增加。这些时期,云业务的渗透率也在快速提升。

· 我们需要比较云业务对资本开支的需求的持续性和稳定性,以及AI对智能开支的需求的稳定性。目前,市场担心美国大厂对GPU和ASIC芯片的需求在达到峰值后是否会下降。我们需要关注的是,训练和推理对算力需求的结构变化。

· NVIDIA的算力需求结构变化尤为重要。5月22日前后,英伟达将公布季报,预计推理需求的占比可能达到50%。推理需求的增加意味着对算力需求的稳定性将得到提升。此外,推理需求的组成部分也值得关注,因为它们对算力需求的稳定性有着重要影响。

8、大模型引领算力架构变革

· 在这次会议中,我们需要特别关注的一点是,大模型的出现导致了算法架构的变化。过去,我们认为CPU和GPU各自处理不同的场景和数据类型,它们之间互不干扰。然而,随着大模型的发展,这种结构可能发生变化。具体来说,谷歌在2018年已经将其搜索引擎的底层架构转变为基于BERT模型的驱动。BERT和GPT都是基于Transformer架构的重要模型。这意味着谷歌搜索引擎的底层算法架构已经基于大模型。这样的变化表明,驱动谷歌搜索引擎的算力不仅仅来自CPU,更多地依赖于GPU,特别是英伟达的GPU。

· 这代表了一个现象:传统的算法架构可能会被大模型的算法架构所替代。虽然不一定是完全替代,这取决于大模型架构带来的算法效率提升和准确率的平衡,但这也与算力成本有关。随着算力成本的快速下降,使用大模型驱动算法的趋势将更加明显。

· 因此,我们可以看到芯片架构结构也在随之变化。算法架构的变化将带来算力结构的变化。过去,CPU和GPU的市场份额大约是80%和20%,但未来这种比例可能会改变。随着算法架构的变化,GPU的市场份额可能会增加。

· 黄锐勋提到的推荐引擎,即搜索算法,是一个普遍存在的需求。无论是搜索引擎、短视频平台还是电商平台,推荐引擎都是核心组件。这也是为什么推荐引擎成为加速计算需求的首要因素。随着大模型的发展,AI加速计算的需求可能会超出我们当前的认知。

· 在AI产业中,美股AI公司和A股中的AI产业链公司是关注的重点。我们的关注点始终是这些公司是否能将AI的潜力兑现在财务报表上。目前,AI的发展重心在于算力,这包括与网络和带宽相关的方面。未来,我们将关注更多之前未涉及的细节和环节,以便更全面地理解整个产业链。

 


作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
开普云
S
赛为智能
S
天源迪科
工分
2.52
转发
收藏
投诉
复制链接
分享到微信
有用 1
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
暂无数据