推理芯片：下一个爆发方向
焜哥
2024-03-04 11:45:22
AI应用的大爆发，推动推理侧需求的激增，英伟达的推理占比将由40%提升至70%，AMD也表示推理芯片需求暴增，再结合之前Grop对推理侧的态度。AI下一个低位细分领域：推理芯片（推理方向存力更重要，今天存储已经动了）
Ross指出：“对于推理领域，你能部署多少取决于成本。”“在谷歌，有很多模型都能训练成功，但其中的80%都没能部署，因为投产的成本太高了。”芯片软件初创公司SambaNova的CEO Rodrigo Liang表示：“我们看到我们的推理应用案例正在迅速增长。”“人们开始意识到，80%以上的成本将用于推理，我需要寻找替代解决方案。”目前看来，英伟达仍在此次转向中处于领先地位。据悉，英伟达一款即将推出的芯片在去年一项关键的人工智能推理基准测试中取得了行业领先的结果，延续了该公司多年来在竞争中的主导地位。
Ross指出：“对于推理领域，你能部署多少取决于成本。”“在谷歌，有很多模型都能训练成功，但其中的80%都没能部署，因为投产的成本太高了。”芯片软件初创公司SambaNova的CEO Rodrigo Liang表示：“我们看到我们的推理应用案例正在迅速增长。”“人们开始意识到，80%以上的成本将用于推理，我需要寻找替代解决方案。”目前看来，英伟达仍在此次转向中处于领先地位。据悉，英伟达一款即将推出的芯片在去年一项关键的人工智能推理基准测试中取得了行业领先的结果，延续了该公司多年来在竞争中的主导地位。
作者利益披露：原创，不作为证券推荐或投资建议，截至发文时，作者不持有相关标的。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
北京君正
S
云天励飞
S
高新发展
工分
2.41
转发
收藏
投诉
复制链接
分享到微信
有用 2
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
评论（2）
只看楼主
热度排序
最新发布
最新互动
- 1