Groq横空出世，算力的下一种可能（华西）
加油奥利给
下海干活的韭菜种子
2024-02-23 07:41:18
作者：刘泽晶
存算一体有望打破冯诺依曼架构，是后摩尔时代下的必然选择。存算一体是在存储器中嵌入计算能力，以新的运算架构进行二维和三维矩阵乘法/加法运算。存内计算和存内逻辑，即存算一体技术优势在于可直接利用存储器进行数据处理或计算，近年来，存算一体随着人工智能的驱动得到较快发展，随着半导体制造技术突破，以及AI等算力密集的应用场景的崛起，为存算一体技术提供新的制造平台和产业驱动力。Groq横空出世，算力的下一种可能：Groq爆火主要是因为其处理速度非常快。该公司的芯片推理速度较英伟达GPU提高10倍，成本只有其1/10。运行的大模型生成速度接近每秒500tokens，碾压ChatGPT-3.5大约40 tokens/秒的速度。极限情况下，Groq的Llama27B甚至能实现每秒750 tokens，为GPT3.5的18倍。价格上，根据芯语消息，Groq的一张LPU卡仅有230MB的内存，售价为2万多美元。Groq的出世为算力提供更多选择:我们认为Groq的爆火其背后意义有两点，分别是:1、算力市场持续火热，算卡依旧是供不应求；2、科技厂商有意搭建自己规模化的体系，来应对英伟达、AMD等一家独大现象。打响关键自主可控保卫战，华为领先演绎国产计算生态崛起：算力是衡量单卡性能的直观指标：参数方面，我们认为昇腾910芯片单卡算力已经可以与英伟达A100相媲美。根据昇腾官网消息，华为昇腾计算平台CANN已经实现从0至1突破，已支持50+主流大模型,为应用创新提供丰富选择例如讯飞星火、GPT3、Stable Diffusion等,同时兼容主流加速库及开发套件。根据财联社消息，中央企业要把发展人工智能放在全局工作中统筹谋划加快建设一批智能算力中心，我们认为此举同样有望进一步加速国产算力生态建设速度。投资建议：受益标的：1、高新发展、神州数码、拓维信息、泰嘉股份、恒为科技、开普云、中国长城、海光信息等；2、北京君正、成都华微、恒烁股份、兆易创新等。风险提示核心技术水平升级不及预期的风险，AI伦理风险，政策推进不及预期的风险，中美贸易摩擦升级的风险。
存算一体有望打破冯诺依曼架构，是后摩尔时代下的必然选择。存算一体是在存储器中嵌入计算能力，以新的运算架构进行二维和三维矩阵乘法/加法运算。存内计算和存内逻辑，即存算一体技术优势在于可直接利用存储器进行数据处理或计算，近年来，存算一体随着人工智能的驱动得到较快发展，随着半导体制造技术突破，以及AI等算力密集的应用场景的崛起，为存算一体技术提供新的制造平台和产业驱动力。Groq横空出世，算力的下一种可能：Groq爆火主要是因为其处理速度非常快。该公司的芯片推理速度较英伟达GPU提高10倍，成本只有其1/10。运行的大模型生成速度接近每秒500tokens，碾压ChatGPT-3.5大约40 tokens/秒的速度。极限情况下，Groq的Llama27B甚至能实现每秒750 tokens，为GPT3.5的18倍。价格上，根据芯语消息，Groq的一张LPU卡仅有230MB的内存，售价为2万多美元。Groq的出世为算力提供更多选择:我们认为Groq的爆火其背后意义有两点，分别是:1、算力市场持续火热，算卡依旧是供不应求；2、科技厂商有意搭建自己规模化的体系，来应对英伟达、AMD等一家独大现象。打响关键自主可控保卫战，华为领先演绎国产计算生态崛起：算力是衡量单卡性能的直观指标：参数方面，我们认为昇腾910芯片单卡算力已经可以与英伟达A100相媲美。根据昇腾官网消息，华为昇腾计算平台CANN已经实现从0至1突破，已支持50+主流大模型,为应用创新提供丰富选择例如讯飞星火、GPT3、Stable Diffusion等,同时兼容主流加速库及开发套件。根据财联社消息，中央企业要把发展人工智能放在全局工作中统筹谋划加快建设一批智能算力中心，我们认为此举同样有望进一步加速国产算力生态建设速度。投资建议：受益标的：1、高新发展、神州数码、拓维信息、泰嘉股份、恒为科技、开普云、中国长城、海光信息等；2、北京君正、成都华微、恒烁股份、兆易创新等。风险提示核心技术水平升级不及预期的风险，AI伦理风险，政策推进不及预期的风险，中美贸易摩擦升级的风险。
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
中南股份
S
高新发展
S
北京君正
S
万润科技
S
软通动力
工分
8.18
转发
收藏
投诉
复制链接
分享到微信
有用 16
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
评论（15）
只看楼主
热度排序
最新发布
最新互动
- 1