NPU是什么：全称为Neural Network Processing Unit，即神经网络处理器，它是一种专门设计用于加速终端侧计算能力的处理器。与传统的CPU和GPU相比，NPU在执行如AI推理等特定类型的计算时，能够提供更高的效率和能效，这使得它们在移动设备和嵌入式系统中特别受欢迎。

为什么需要NPU：NPU可以帮助端侧设备，如手机、电脑、蓝牙音响等终端设备具有本地化运行大模型的能力，例如一个手机的处理器没有搭载NPU，那要具备AI功能只能通过云端连接大模型，而加载NPU后可在本地运行大模型，数据私密性、时效性及各类AI功能的场景体验性都将获得极大提升。

NPU的优势：提升了终端侧的AI计算能力，使AI模型的推理更加快速高效。例如AMD的锐龙8040系列移动处理器，集成有Ryzen AI NPU，其AI处理性能比之前的AMD型号高1.6倍。

炬芯科技：端侧AI处理芯片布局领先，公司前期深度布局端侧AI处理器，24年公司将推出基于存算一体架构的CPU+DSP+NPU三核异构处理器，产品ASP提升3-5倍，22nm工艺下能效比高达7.8TOPS/W，从根本上解决端侧AI设备的续航、发热等痛点。

其他：全志科技、国科微、国芯科技、北京君正、云天励飞等