训练芯片已经涨上天,关注还在低位,有超车潜力、有引爆因素的国产推理芯片。
引爆点1:Groq推“最快”AI推理芯片 比英伟达GPU快10倍
引爆点2:推理芯片NPU成AI手机、AI PC最大的增量方向!
NPU即神经网络处理器,它是一种专门设计用于加速终端侧计算能力的处理器。与传统的CPU和GPU相比,NPU在执行如AI推理等特定类型的计算时,能够提供更高的效率和能效,NPU可以帮助端侧设备,如手机、电脑、蓝牙音响等终端设备具有本地化运行大模型的能力。
引爆点3:AMD CTO访谈全文:AI推理芯片需求猛增。
引爆点4:英伟达的推理占比将由40%提升至70%
重点关注:
云天励飞:公司的Deepeye1000属于边缘端推理芯片,采用ASIP技术路线。DeepEdge10作为首颗云天自研的SOC芯片,搭载新一代自研NPU(NNP400T);
国科微:目前公司的NPU已实现前端IPC最高4T算力和后端NVR/DVR 9T算力;
寒武纪:新一代云端推理芯片及系统项目目前正在研发。
旋极信息:参股公司浙江曲速的下一代芯片是人工智能(AI)芯片,非训练芯片,主要定位于推理应用的推理芯片。
科德教育:公司于2023年4月参股中昊芯英,中昊芯英是一家人工智能芯片设计公司,产品包括训练芯片和推理芯片。
中辰股份:合资公司建设并运营低碳液冷智算中心进入推理算力领域,以算力租赁及其他算力服务的方式向下游客户提供服务。