鸿博股份：英伟达国内替身（悲哀，国内AI芯片的悲哀）

国产替代必经之路。

瑞斯康达：在ASIC芯片设计、分组核心架构等相关领域已拥有了一批国内领先的核心技术（边缘端，悲哀，没有增量资金进场，只能炒炒这种小票）

恒烁股份：存算一体，理想的芯片，还不知道哪年哪月，难度很大，估计成不了，但量化估计要一直拉。

二、AI芯片分类：

GPU (图形处理单元)：专门用于进行图形处理的芯片，常用于游戏、视频播放和深度学习等应用。（云端训练主导）

FPGA (可编程逻辑门阵列)：可以通过硬件定义语言 (HDL) 进行编程的芯片，具有高度可编程性和可扩展性。

ASIC (专用集成电路)：专门为某一特定应用设计的芯片，具有较高的性能和效率。（不可编程，通用性差，但高能低耗，又分为TPU、DPU、NPU）

NPU (神经处理单元)：专门用于进行神经网络计算的芯片，常用于人工智能、自然语言处理和图像识别等应用。

IPU：总部位于英国布里斯托的Graphcore公司推出了一款称为智能处理单元（IPU）的新型AI加速处理器。IPU具有高能低耗、可编程、可云端升级等特点。

三、IPU芯片会是人工智能领域里GPU的终结者吗？（转）

2022年6月，全球最权威的AI计算竞赛之一，也被称为“机器学习的奥林匹克”的ML Perf，MLCommons发布了MLPerf Training v2.0的结果，此次共收录了来自21个不同提交者的250多项性能测试结果，包括Azure、百度、戴尔、富士通、技嘉、谷歌、Graphcore、HPE、浪潮、英特尔-HabanaLabs、联想、Nettrix、NVIDIA、三星和Supermicro。此外，ASUSTeK、CASIA、H3C、HazyResearch、Krai和MosaicML等是首次参加训练测试评估。

这次Graphcore用他的IPU（Intelligence Processing Unit），这种专为AI训练研发的芯片，在训练AI的图像识别模型上，只花了不到20分钟的时间，比英伟达的王牌GPU产品快了将近10分钟。可以说，是在GPU的强项上，赢了人家一次。

Cambrian-AI Research LLC创始人兼首席分析师Karl Freund，在福布斯上发表了一篇题为“NVIDIA丢掉了AI性能王冠，至少目前如此”的文章，评论了此次MLPerf的结果。

Freund表示，这是MLPerf自公布以来，NVIDIA第一次没有横扫全部排行榜。

此次的模型提交，Graphcore提供了ResNet-50和BERT两个标准模型测试结果，此外，在语音方面在开放分区提交了RNN-T（Recurrent Neural Network Transducer），这是始于其客户的项目。

在GPU占据优势的模型ResNet-50上，Bow Pod16仅耗时19.6分钟，表现优于NVIDIA的旗舰产品DGX-A100 640GB所需的28.7分钟，性能提升大概30%，而在Bow Pod256上，结果显示ResNet-50的训练时间仅需2.67分钟。8台DGX-A100和Bow Pod256相比，性能对比约为6比10，而Bow Pod的价格又远远低于DGX-A100的8倍，这足以证明Graphcore产品相比NVIDIA的高性价比。

之前英国半导体之父、Arm的联合创始人Hermann爵士也说，在计算机历史上发生过三次革命，第一次是70年代的CPU，第二次是90年代的GPU，而Graphcore的IPU就是第三次革命。现在MLPerf的结果，似乎更坐实了这些判断。

之前就有报道说Graphcore是英伟达的最强挑战者，说它会凭借IPU弯道超车，打破英伟达在AI训练的统治地位，取而代之。

那么，这个专为AI训练而生的IPU，凭什么能让一家家成立于2016年的英国创新企业，有底气去叫板“行业大佬”英伟达呢？

但是，Graphcore真的能打败英伟达？我觉得短期的可能性很低。

我们知道，虽然在AI训练上，IPU有GPU无可比拟的效率，但AI推理市场还是GPU的天下。特别在是云平台上，大家要用AI处理各种格式的数据，有语音的一维数据、图像的二维数据，还有自动驾驶的三维数据，目前只有GPU的通用性可以满足。

即便在训练市场，眼下IPU想彻底取代GPU也很难。毕竟之前大家部署的芯片，基本都是GPU，现在整个换成IPU，迁移成本就是大问题。而且在GPU上的成熟训练模型，迁移到IPU上，是不是会有问题？这样的风险也很难承受。

未来很长一段时间里，GPU依然是主力。就像GPU无法取代CPU一样，IPU也无法取代GPU，三者共同协作，组成芯片系统，才是大趋势所趋。

Graphcore要做的事情是培养市场。因为IPU是和AI市场共同发展的，所以Graphcore除了抓住已有的AI市场，比如和微软等云服务商合作，用云计算平台广泛触达智能通讯、智能监控、智能交通等领域的客户之外，更要努力推动其他产业积极引进AI，培养出新市场。

就目前Graphcore的动作来看，它正在这方面下功夫。在中国市场，它先是和阿里巴巴合作，利用它们的接口帮企业快速完成GPU到IPU的迁移。之后它又和百度飞桨、金山云一起，建设基于IPU的深度学习平台和开发者云，供研究机构和个人免费使用，让创新者能轻松获取IPU训练AI，开发新模型。

如果IPU能利用它结构上的优势，导致人工智能的性能大大提升，寻找到了产业新增的巨大市场。那么那一天Graphcore的野心就可能不仅仅是英伟达，而IPU的对手可能也并不再是GPU，让我们拭目以待吧。

四、云天励飞

云天励飞AI芯片（IPU，边缘端）的技术路线是通过设计一系列面向多层神经网络的可编程处理器，应对人工智能算法的快速迭代。“我们首创的‘自适应云+端’AI系统架构，可通过云端逻辑控制终端芯片，自动更新终端芯片的算法和功能。”据云天励飞联合创始人、CEO陈宁介绍，云天励飞自主研发的专用深度学习神经网络处理器芯片，采用ASIP设计思路，提供ASIC级别高性能和低功耗，也能提供处理器级别的指令集灵活性。同时，采用异构计算多核SOC架构，集成多处理器单元，并行分布式处理与集中控制系统。

与传统芯片迭代速度相比，AI芯片迭代更快。“目前来说，算法每半个月迭代一次，AI芯片则要同步迭代，而传统芯片的迭代是按年计算。现有的CPU或GPU无法满足嵌入式端视觉AI应用。”据云天励飞研发副总李爱军表示，通用CPU在神经网络加速上速度慢，性能上满足不了对嵌入式端的需求;GPU性能是够的，但功耗高、成本居高不下。“所以，我们觉得有必要去研究适应新型神经网络的深度学习处理器架构芯片。”而云天励飞研发的芯片是面向嵌入式端的边缘计算人工智能芯片，专注智能视觉，聚焦在安防、智能商业等领域的场景应用。