登录注册
国盛证券:边缘推理,Al算力的下一站
戈壁淘金
只买龙头的老司机
2023-03-03 14:42:20

高通发布在Android手机上部署AI模型的解决方案。3月2日,高通中国公众号发布了全球首个运行在Android手机上的StabLEDiffusion终端侧演示。高通AI部门演示了如何利用高通AI软件栈,首次在Android智能手机部署StabLEDiffusion模型。该模型是一个用文字生产图片的AI模型,参数超过10亿,过去只能在云端计算集群内运行。

边缘算力有望成为推理主体。在本次实验中,高通AI团队从Hugging Face的FP32 1-5版本开源模型入手,通过量化、编译和硬件加速进行优化,使其能在搭载第二代骁龙8移动平台的手机上运行。我们认为,未来AI的推理过程,通过一定的针对性优化后,完全有能力通过边缘算力实施。同时,边缘算力具有低时延、安全、隐私等优势,符合未来AIGC时代,对于AI创作所有权和隐私权的要求。同时,手机,智能模组等算力相对于云端访问,对于普通用户来说更加便捷和易于学习,对于AIGC应用的推广也更加有利。

边缘算力是未来算力体系的重要一环。当前,无论是需要超强硬件支撑的AI迭代与训练,还是运行要求相对较低,需求相对分散的AI推理,都放在超算中心内进行。我们认为,在AI大爆发周期内,迭代和训练需要的整体算力将会呈指数级增长,增速将会超过单芯片算力增长速度。同时,单个AI超算规模将会受到功耗、土地、散热等因素制约。因此,未来的AI运算将呈现出训练与迭代在云端,推理与内容生产梯度分布(云侧+雾侧+边缘侧)的格局变化。此外,随着AIGC内容愈发丰富,从简单的文字发展到视频、虚拟场景,如果采用云生成然后发送到端的形式,将会产生较多的网络带宽成本和一定程度的时延,进而影响模型的商业化进程与用户使用体验,边缘算力有助于作为补充手段改善这一情形。

智能模组是承载边缘算力的优秀形式。智能模组指的是融入了算力或通用处理芯片的通讯模组。当前已经应用于车机、消费等多个领域。当前主流的智能模组主要采用高通平台。因此此次高通在终端部署并推理AI模型的成功尝试,对于模组走向AIGC时代具有重大意义。单个模组算力可能较小,但智能模组具备灵活性与定制化的产品特性,结合高通AI增效工具包与专用硬件,未来智能模组有望走向依据模型定制算力平台,与使用场景深度绑定的模式,彻底打开行业应用场景与想象空间。

投资建议:

边缘算力模组:美格智能、移远通信、广和通

边缘算力网络搭建:初灵信息、龙宇股份、中兴通讯

风险提示:AIGC发展不及预期,边缘算力发展不及预期。

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
初灵信息
S
中兴通讯
S
美格智能
工分
76.90
转发
收藏
投诉
复制链接
分享到微信
有用 91
打赏作者
无用
真知无价,用钱说话
1个人打赏
同时转发
评论(36)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2023-03-03 22:30
    国盛承接天风衣钚,故事吹得震天
    6
    0
    打赏
    回复
    投诉
    于2023-03-05 21:28:36更新
    查看1条回复
  • 只看TA
    2023-03-03 19:14
    美格智能用国外的芯片模组,有什么值得吹的
    5
    1
    打赏
    回复
    投诉
    于2023-03-03 22:20:03更新
    查看1条回复
  • 北北效应
    中线波段
    只看TA
    2023-03-04 09:09
    没有芯片,谈何算力
    3
    0
    打赏
    回复
    投诉
  • Top Trader
    超短追板的游资
    只看TA
    2023-03-04 00:15
    非常正啊,感觉比gpt4好
    2
    0
    打赏
    回复
    投诉
  • 陈超
    自学成才的龙头选手
    只看TA
    2023-03-03 22:13
    老师辛苦,感谢分享!
    1
    0
    打赏
    回复
    投诉
    于2023-03-03 22:19:04更新
    查看1条回复
  • 只看TA
    2023-03-04 20:43
    感谢分享最新题材
    1
    0
    打赏
    回复
    投诉
  • 原则1993
    中线波段
    只看TA
    2023-03-04 10:38
    感谢分享
    1
    0
    打赏
    回复
    投诉
  • 鹰击长空
    超短低吸的半棵韭菜
    只看TA
    2023-03-04 06:19
    佳华科技对标美格智能
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-03-03 23:28
    新题材,楼主辛苦了
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-03-03 15:03
    有点虚啊,另外这不是给华脉科技加分嘛:边缘智能研究院南京有限公司为公司参股子公司,其经营范围包括边缘计算科技领域内的技术开发、技术转让等
    1
    0
    打赏
    回复
    投诉
  • 1
  • 2
  • 3
前往