登录注册
【东北通信]MoE推动AI大模型降本之路,交换机迎来新发展机遇
戈壁淘金
只买龙头的老司机
2024-05-21 14:45:46

MoE混合专家模型相比传统Transformer模型具备更高的效率和更低的成本:MoE的核心优势在于能在远低于稠密模型所需计算资源的情况下进行高效训练;

DeepSeek V2做为MoE模型典范,相比目前
LLM开源大模型在各项性能方面均位于行业顶级水平:DeepSeekV2引入MLA算法,显著提高推理效率,相比DeepSeek V1节省42.5%的成本,单API调用输入价格1元每百万Tokens,是目前所有大模型中最低价格;

MoE大模型有望成为全球AI大模型主流技术路线,对通信网络更高需求推动高性能交换机加速落地:MoE模型会推动单交换机峰值速率提升,以及交换机总需求量增加

重点推荐标的:锐捷网络、紫光股份、菲菱科思、共进股份

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
菲菱科思
工分
7.07
转发
收藏
投诉
复制链接
分享到微信
有用 14
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(2)
只看楼主
热度排序
最新发布
最新互动
  • 1
前往