登录注册
百倍增量赛道,算力资源紧缺,「打破通信墙+极致调度调优」乃无二之选!
主流和龙妖
不要怂的随手单受害者
2023-11-14 20:42:48
百倍增量赛道,算力资源紧缺,#「打破通信墙+极致调度调优」乃无二之选!


1)打破通信墙:搭建高速光通信网络,通过超高速率芯片&内存互联,允许万卡集群跨GPU数据高速无损交换,仍是充分发挥算力集群性能的核心。
2)极致调优:通过监测GPU负载、交换链路拥挤度、模型优化等方式从系统层面优化集群性能,充分压榨GPU利用率;该环节可视化运维或成破局关键。
3)从单一算力到异构算力:国家级、省级算力调度平台建设成为新基建重要抓手,为异构算力的使用奠定基础;
4)从精打细算到重剑无锋:从“术”的层面看,可以利用Deepspeed等工具进行协助,海外亦有各类工具涌现;从“道”的层面看,大模型训练将更注重算力、通信网络的堆叠,光通信仍是重中之重。
5)算力后周期加速崛起:云化使算力资源“整转零”,便于用户随时调用;调优从网络和模型层面优化实现算力降本;调度统筹分配全国/全球算力成本优化。

#算力调优和调度从个体和整体层面推动GPU算力的更优发挥、且已逐步形成创新的商业模式,例如按访问收费、按收益分成等,超算互联网的时代将拉开帷幕。


🧧相关标的:
#【算力调度与调优】: 思特奇、中科金财、恒为科技、云从科技、中贝通信、青云科技、博瑞数据等
#【算力租赁】: 利通电子、中科金财、中贝通信、恒润股份、润建股份
#【算力可视化】: 恒为科技、浩瀚深度、中新赛克等
#【光连接】 新易盛、中际旭创、天孚通信、光库科技、太辰光、腾景科技、源杰科技
作者在2023-11-15 02:13:01修改文章
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
工分
3.05
转发
收藏
投诉
复制链接
分享到微信
有用 7
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(8)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2023-11-16 09:01
    百倍增量赛道,算力资源紧缺
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-11-16 08:36
    不错 谢谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-11-16 07:47
    算力调度
    0
    0
    打赏
    回复
    投诉
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    2023-11-16 04:07
    0
    0
    打赏
    回复
    投诉
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    2023-11-16 04:06
    0
    0
    打赏
    回复
    投诉
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    2023-11-16 04:05
    0
    0
    打赏
    回复
    投诉
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    2023-11-14 22:25
    0
    0
    打赏
    回复
    投诉
  • 1
前往