登录注册
左江科技:国产DPU核心股,AI算力提升又一核心芯片
VC也能做好股票
只买龙头的半棵韭菜
2023-02-13 11:42:43

DPU Data Processing Unit(数据处理单元)的简称,是最新发展起来的专用处理器的一个大类,为高带宽、低延迟、数据密集的计算场景提供计算引擎。DPUARM处理器核、VLIW矢量计算引擎和智能网卡的功能集成在了一起,主要应用在分布式存储、网络计算和网络安全领域。DPU的出现是异构计算的一个阶段性标志。DPU要解决的核心问题是基础设施的“降本增效”,提升整个计算系统的效率、降低整体系统的总体拥有成本(TCO

DPU有以下四大功能。

根据半导体行业观察

1DPU作为CPU的卸载引擎,释放CPU的算力到上层应用;

2DPU成为新的数据网关,将安全隐私提升到一个新的高度;

3DPU成为存储的入口,将分布式的存储和远程访问本地化;

4DPU成为算法加速的沙盒,成为最灵活的加速器载体

DPU有望成为数据中心场景中的第三大算力支柱。

根据半导体行业观察,具体来看,CPU负责构建应用生态,GPU负责图像处理核深度学习训练,DPU负责卸载基础层应用,比如网络、安全、数据压缩等。CPUGPUDPU三者共同构成了计算基础设施。但从结构上来看,DPU会更异构、也更专用。如果把一台计算机或服务器比作一个团队,CPU相当于这个团队的“管家”,负责思考并处理各种业务;GPU是“美工”,专攻图像处理;DPU则相当于“前台”,负责打包、拆包“数据包”,提升整个团队的工作效率。

DPU市场规模增长迅速。

根据半导体行业观察援引头豹研究院的数据,中国DPU市场规模增长周期与数据中心升级周期契合,通常数据中心带宽升级周期在3年左右,中国将在2023-2025年进入下一轮服务器设备以及DPU更换周期,DPU市场规模将有明显的增幅。预计到2025年,中国DPU市场规模预计接近40亿美元。

巨头英伟达成为先行者。

英伟达在DPU上的技术突破,来自于2019年收购以色列芯片制造公司Mellanox,目前英伟达DPU产品包括NVIDIA BlueField-2 DPUNVIDIA BlueField-3 DPUNVIDIA 融合加速器三个系列。




1.     数据中心领域新兴产品:DPU

DPU:未来算力三大支柱之一

根据半导体行业观察,DPU Data Processing Unit(数据处理单元)的简称,是最新发展起来的专用处理器的一个大类,为高带宽、低延迟、数据密集的计算场景提供计算引擎。DPUARM处理器核、VLIW矢量计算引擎和智能网卡的功能集成在了一起,主要应用在分布式存储、网络计算和网络安全领域。DPU的出现是异构计算的一个阶段性标志。DPU要解决的核心问题是基础设施的“降本增效”,提升整个计算系统的效率、降低整体系统的总体拥有成本(TCO)。

DPU最核心的任务是IO数据的预处理和后处理,包括网络类任务(虚拟网络、IPSec等)、存储类任务(分布式存储、数据加解密、数据压缩、数据冗余算法等)、虚拟化加速(虚拟化整体Offload,业务管理分离)、安全和认证类的任务(Root of Trust 等)。或者,从云计算业务的角度看,我们可以看做是,DPU是把整个IaaS的服务完整的Offload到硬件来做加速。

根据半导体行业观察,具体来说,DPU有以下四大功能:

DPU作为CPU的卸载引擎,释放CPU的算力到上层应用。网络协议处理为例,要线速处理10G的网络需要的大约4Xeon CPU的核,也就是说,单是做网络数据包处理,就可以占去一个8核高端CPU的一半的算力。Amazon把这些开销都称之为“Datacenter Tax”——还未运行业务程序,先接入网络数据就要占去的计算资源。而DPU可以将数据中心开销(为虚机提供远程资源,加密解密,故障跟踪,安全策略等服务程序)全部从CPU卸载到加速卡上,将给上层应用释放30%原本用于支付“Tax的算力。

DPU成为新的数据网关,将安全隐私提升到一个新的高度。在网络环境下,网络接口是理想的隐私的边界,但是加密、解密的算法开销都很大,例如国密标准的非对称加密算法SM2、哈希算法SM3和对称分组密码算法SM4。如果用CPU来处理,就只能做少部分数据量的加密。在未来,随着区块链承载的业务的逐渐成熟,运行共识算法POW,验签等也会消耗掉大量的CPU算力。而这些都可以通过将其固化在DPU中来实现,甚至DPU将成为一个可信根。

DPU成为存储的入口,将分布式的存储和远程访问本地化。随着SSD(固态硬盘)性价比逐渐变得可接受,部分存储迁移到SSD器件上已经成为可能,传统的面向机械硬盘的SATA协议并不适用于SSD存储,所以,将SSD通过本地PCIE或高速网络接入系统就成为必选的技术路线。NVMeNon Volatile Memory Express)就是用于接入SSD存储的高速接口标准协议,可以通过PCIe作为底层传输协议,将SSD的带宽优势充分发挥出来。同时,在分布式系统中,还可通过NVMe over Fabric协议扩展到InfiniBand、或TCP互连的节点中,实现存储的共享和远程访问。这些新的协议处理都可以集成在DPU中来实现对CPU的透明处理。进而,DPU将可能承接各种互连协议控制器的角色,在灵活性和性能方面达到一个更优的平衡点。 

DPU成为算法加速的沙盒,成为最灵活的加速器载体。DPU不完全是一颗固化的ASIC(特殊应用集成电路),在CXL, CCIX等标准组织所倡导CPUGPUDPU等数据一致性访问协议的铺垫下,将更进一步扫清DPU编程障碍,结合FPGA等可编程器件,可定制硬件将有更大的发挥空间,“软件硬件化”将成为常态,异构计算的潜能将因各种DPU的普及而彻底发挥出来。在出现“Killer Application”的领域都有可能出现与之相对应的DPU,诸如传统数据库应用如OLAPOLTP,或新兴应用如智能驾驶等。


2.     CPUGPUDPU:算力经济时代下的三驾马车

CPU是整个IT生态的定义者,无论是服务器端的x86还是移动端的ARM,都各自是构建了稳固的生态系统,不仅形成技术生态圈,还形成了闭合价值链。

GPU是执行规则计算的主力芯片,如图形渲染。经过NVIDIA对通用GPU GPGPU)和CUDA编程框架的推广,GPU在数据并行的任务如图形图像、深度学习、矩阵运算等方面成为了主力算力引擎,并且成为了高性能计算最重要的辅助计算单元。20216月公布的Top500高性能计算机(超级计算机)的前10 名中,有六台(第235689名)都部署有NVIDIAGPU

传统上主内存和辅助内存之外的所有计算都是在CPU上完成的,面对超大规模数据处理的需求,CPU的算力已经达到瓶颈,所以就需要硬件加速。DPU正是这样一个存在,它被定位为完成性能敏感的并且通用的工作任务加速处理。由DPU完成基础的工作任务,构建强大的基础设施层,上层的CPUGPU来完成其他更有价值的工作。

具体来看,CPU负责构建应用生态,GPU负责图像处理核深度学习训练,DPU负责卸载基础层应用,比如网络、安全、数据压缩等。CPUGPUDPU三者共同构成了计算基础设施。但从结构上来看,DPU会更异构、也更专用。如果把一台计算机或服务器比作一个团队,CPU相当于这个团队的“管家”,负责思考并处理各种业务;GPU是“美工”,专攻图像处理;DPU则相当于“前台”,负责打包、拆包“数据包”,提升整个团队的工作效率。

根据半导体行业观察援引头豹研究院的数据,中国DPU市场规模增长周期与数据中心升级周期契合,通常数据中心带宽升级周期在3年左右,中国将在2023-2025年进入下一轮服务器设备以及DPU更换周期,DPU市场规模将有明显的增幅。预计到2025年,中国DPU市场规模预计接近40亿美元。


3.     DPU赛道兴起,巨头涌入

芯片巨头入局DPU:英伟达收购Mellanox

当前趋势下,各大云和服务器厂商都在迫切寻求基于智能网卡的解决方案,来降低其硬件投入和能耗成本,智能网卡方案逐步成熟。目前行业领先的厂商包括BroadcomIntelMellanox(被NVIDIA收购)、Xilinx(被AMD收购)、Marvell等。

DPU领域,英伟达可以说是先行者。英伟达在DPU上的技术突破,来自于2019年收购以色列芯片制造公司Mellanox之后。Mellanox成立于1999年,是以Infiniband产品而起家的。在网络从10G25G转换节点上,Mellanox异军突起,成为了市场的佼佼者。

根据英伟达官网,英伟达的DPU产品包括NVIDIA BlueField-2 DPUNVIDIA BlueField-3 DPUNVIDIA 融合加速器三个系列。

NVIDIA BlueField-2 DPU 可为每个主机提供创新的加速能力以及出色的安全性和效率。BlueField-2 数据中心基础设施集 ConnectX-6Dx、可编程 Arm 核心,以及硬件卸载引擎于一体,适用于软件定义存储、网络、安全和管理等工作负载。NVIDIA BlueField-2 还能为云计算平台提供出色的性能、安全性,并可减少 TCO,支持高效地构建和运营大规模的虚拟机、容器及裸金属基础设施。

NVIDIA BlueField-3 是首款以线速处理软件定义网络、存储和网络安全的 400Gb/s DPUBlueField-3 将强大的计算能力、高速网络和广泛的可编程性相结合,为要求苛刻的工作负载提供软件定义的硬件加速解决方案。从加速 AI 计算,到混合云,再到云原生超级计算和 5G 无线网络,BlueField-3 重新定义了各种可能性。

NVIDIA 融合加速器将 NVIDIA Ampere 架构的强大计算性能与 NVIDIA BlueField-2 DPU 增强的安全和网络功能相结合,在单一模组中实现了两者的完美融合。这种先进的架构为边缘计算、电信和网络安全等领域 AI 驱动的工作负载带来出色的性能和强大的安全性。

图片

风险提示:英伟达DPU产品研发不达预期。


国产厂商积极布局DPU

根据半导体行业观察,由于DPU的系统开发技术难度大,研发周期较长等原因,产品供应长期被国外企业垄断。2020年中国DPU市场产品主要由NVIDIAIntelBroadcomMarvell等企业提供。从国内厂商角度来说,目前我国在DPU领域还处于起步阶段,与国外先进水平存在一定差距。

根据左江科技公司,国内上市公司左江科技自研可编程网络安全处理系列芯片,其旗下子公司北中网芯成立于2020年,是一家从事可编程网络安全芯片及新一代智能网卡(DPU)的研发与销售企业。北中网芯是近年来崛起的新兴DPU初创企业之一,DPU能够作为CPU的卸载引擎,释放CPU的算力到上层应用,是芯片领域的热门赛道,国内初创企业包括中科驭数、星云智联、大禹智芯、芯启源等

4.     建议关注

左江科技

内容部分来自海通证券研究所

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
*ST左江
S
浪潮信息
工分
4.16
转发
收藏
投诉
复制链接
分享到微信
有用 8
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
暂无数据