登录注册
智算江湖(三)常识真的很重要
无名小韭吹泡泡
超短低吸
2023-09-05 01:11:09

据说智算江湖越来越热闹了,今天的服贸会我没去,但是有朋友去,跟我说了些细节,提到了行业立场问题,——需不需要单一物理空间下的超大规模智算集群,虽然有的公司也有超大规模智算集群的行动,但是公开认为不需要的有英特尔、一些服务器厂商、百度等,鸿博的立场是鲜明的,那就是需要的。

其实看了这篇,也给很多准备进入智算江湖的公司一点提示,如果是打算认真做智算中心,大概率需要未雨绸缪,提前考虑下未来在行业里以什么样的立场出现了。

下面继续说常识,因为我此前请教的业内专家不止一位,信息陆续反馈回来,就陆续更新。

一家公司,现在要买HGX,如果刚联系到能生产服务器的组装厂,的确是可以和代工厂去下单,但不代表能拿到机器。

上一篇也说了江湖里中介机构也很多,很多需求和报价挺乱,不过无所谓,这里有一些常识,大家可以根据常识去自行分辨看到的每一条信息。

一台HGX里有不同零部件,尤其是核心:模组,这块始终是受制于英伟达的到货量的,至于那些网卡、显存、电源什么就不提了,大批量攒过电脑的都知道什么意思。

组装厂报出来的是标准配置,你如果有大模型客户,那明确的大模型客户这里就需要出场了,并结合客户的需求特点去跟组装厂订符合要求的配置。

模组的数量和到货时间,英伟达中国说了不算,得英伟达美国定。英伟达中国可以决定最后分配给每家组装厂各多少模组,也就是说好几家国内组装厂,可能都不知道最终能分配到多少模组。这里就是一个未知,最近的新闻我想大家也看到了,依据美国商务部的口径,很有可能H800很快就买不到了。

市场上很多公司都去对标鸿博的估值,那想必也不能否定鸿博的拿货路径,那么我来试着把鸿博当初画的PPT经历了哪些环节,用了多少时间来梳理一下。

我们都知道品牌机DGX的标准等货周期是8-12周,组装机HGX标准等货周期是40周,是不是换算成月看着更统一?DGX,3-4个月,HGX,10个月,这还是没有经历今年7月疯抢的情况下。

4月份鸿博下单的时候,大家都还在迷恋A100,也因此有些公司买了些A100的PCIE卡,很多公司当时还没想到去疯狂下单H800,现在回过头看,就能理解当初鸿博下单H800的意义了吧。我们也是慢慢才知道H800原来比A100好的。

如果现在才去下单,等货周期10个月不夸张吧?那有人要问了,为什么每个月鸿博都能到货,不那么缺啊?那是因为周总在那些公司没有疯抢的时候都,按3-4倍量下的单,知道紧缺就多下单,保证下限,运气好到货量还能超预期。

前文也说到了,从美国分到中国的H800模组,1-4月份2000套,5-8月份被中东截胡,那么从预期的角度,从现在开始可以预估有2000套H800模组在下半年到货。

但是任何一家组装厂都有很多重要的客户在排队中,比如说大厂、金融机构、能源公司、科研机构等。

A800在7月份后基本上不能下新单了,所以大家记一下这个,以后大概率都是H800。

具体的数据我拿到了一些,但是不能完全具体说,就大概去理解下:除了这些渠道和资金实力雄厚的金融、能源、互联网大厂和科研机构外,下半年的2000套有60%-70%不会被市场上的其它公司拿到,很多大厂也会套壳下单,预计会有明面上订单的2倍,组装厂也不会轻易得罪这些机构。

如果把上述因素算进去(业内人士帮按的计算器)也就是说 2000套里能被市场争抢的也就300套左右,而且是已下单的客户争抢,鸿博是下了3-4倍量,别的家据说也有倍量下单的,最后多少人能买到呢?别忘了上一篇里提到的美团年初下的300套还没影子。

300套是多少P呢?300*16=4800P , 想一下那些上市公司、非上市公司加一块,今年一共只能拿到4800P总数的HGX H800,光上市公司公布的不少了吧?从哪来的呢?

其实现在去下单已经是非常晚了,10个月后才能到货吧?还要再加3个月调试时间,除非组装厂把其它互联网大厂、金融、能源、科研院所的单给截了,可能性大吗?

那么继续分析,鸿博的算力是怎么从100P变成1300P的呢?又历时多久呢?

首先,如果你是一家从来没做过GPU智算中心的公司,你要先组建有GPU软件、硬件、运维方面相关经验的技术团队,就对标英博数科40人的技术团队吧,这是最低标准了,还得有CTO这样的技术核心,鸿博做为DGX和HGX客户,英伟达和不止一家国内组装厂(买服务器有技术支持不是应该的吗?我们买个家电都会有技术团队支持),都会联手对鸿博进行技术支持,但是不影响他还需要组建自己的技术团队。

鸿博股份刚开始技术薄弱的时候是怎么做的呢?他们知道自己的技术实力不行,就先买品牌机DGX,后面慢慢把技术团队建立起来了,有了安装调试经验了,才敢动手去下单HGX的组装机,因为调试、装软件都很漫长。

当初鸿博股份找有GPU算力经验的,有架构、运营经验的人时,从去年12月直到5月份,才把现任CTO重金挖来,历时小半年时间才组建了40人的技术团队,这已经非常快了,据说HR 每天都要刷100个简历。现在要做几千P的GPU智算中心,起码去挖抖音、阿里、腾讯有云服务尤其是GPU运维经验的相关领域领军人物吧,还得是重金。先不说难不难,如果引入重磅管理层,要公告吧?我们先拭目以待。

光组建技术团队就用掉7个月了,有了团队,才敢在7月份下单HGX,能理解吗?如果鸿博没有花7个月组建了现CTO带队的40人技术团队,是不敢贸然下单,HGX服务器的,虽然有组装厂技术支持,但还是驾驭不了,就更不要说单卡了吧?

再来说到货后的调试,原装的DGX在英伟达技术人员的帮助下,调试时间为一个月,我们从鸿博股份的公告可以看出来,调试时间也很久。至于HGX那时间就长了,平均得两个月了,这还是各互联网大厂的数据,这些参与调试的技术人员还得接触过A800的调试,再去调H800。

我就举个例子,不点名了,某拥有2万人技术团队的互联网大厂,今年4月份到货的一批HGX服务器,一直调优参数不理想,无法交付到前端团队,直到9月才调通,历时5个月,你可以想象一下有2万人技术团队的互联网大厂,会抽调多少人来调试这么稀缺和重要的设备呢?

从这个角度来看,HGX的调试顺利的话,2个月后,才敢给客户测试,客户再去调自己的模型,这么满打满算,到货后3个月投入实际运营差不多吧?

再来说说下单流程,现在下单定金10%左右。按照标准到货周期,如果上市公司签约,下单要公告吧(具体的披露标准,感兴趣的自己查下吧)假设你要2000P的算力,至少是5亿金额的订单。

还记得鸿博公布了紫光晓通的订单,5个亿起步,这种百亿市值级别的公司,怎么也达到披露标准了,现在没下订单的,十个月后怎么能有HGX?

还有个问题,就是正常企业,没客户一般不会去贸然下单,尤其是一家上市公司,这么大体量的投资,回报周期怎么考虑?投5个亿,起码得确认60%-70%的收入才是对股东负责吧?参考鸿博股份是几月份披露客户订单的。

结合上述鸿博的路径,基本上可以算出来时间了。

同时我也请教了熟悉数据中心基建的专业人士,审批、基建周期同步进行,最快6个月可以实现机器上架。

所以这个算数我也不去细算了,大家把组建团队时间、客户签约、下订单、调试等时间算上,去匹配每一家认真决策要进入智算江湖的公司。如果真的有,我真的希望能好好写一下,今年能拿到大量的货一定也很传奇

正写着,今天周总在服贸会的讲话的录音我拿到了,半公开讲话里的重点我摘录下吧:

“在过去我们国家投入了大约八万亿用于数字基建,不过大多数用是于机房的基础设施建设、CPU超算中心等......我们真正缺少的不是PCIE版本的H800卡,也不是40G显存的A100,而是AGI发展必须的高性能、高传输的高端智算集群。

作为AI算力服务行业的从业者和观察者,我真诚建议:AI研发人员要客观评估自己的模型参数和研发进度、一定要在严谨测试后,再确定对服务器型号和数量的选择,不要盲目只看设备参数,因为工业级服务器,需要专业调优能力,我们的技术人员会结合不同模型,进行参数适配,优化结果不同会带来几十倍的效率差别。

选择对的服务商不止是帮公司节约成本,也是平衡整个市场的算力需求,行业第一名只有一个,但整个行业蛋糕的做大,生态的繁荣才可以有益于每一个业内的团队。

我也建议相关的算力企业能够实事求是的描述自己的在手、在途算力设备,在选择投资算力产业之前,首先健全核心的技术团队,完善自我产业认知,特别是上市公司更不要为了追逐短期市值的增长,用同型号的PCIE单卡误导投资人,用明知不可为而为之的PPT算力低价去报价,去浪费研发团队的时间,让他们进行无谓的漫长等待。

通用型人工智能是可以对标蒸汽机出现的又一次工业革命,我们何其幸运能够在有生之年见证一次这样的人类文明史诗级的生产力变革,客观、自律,实事求是,少点自私自利,多点家国情怀。会真正帮助到AGI的高效发展,而我们每个人也都将成为AI革命终局的受益者。

其次,也有人认为模型发展到一定阶段不需要那么多训练算力,大型智算中心的高能耗是否有必要?单一通讯集群的超大AI算力的智算中心我认为是极其有必要的。这样的集群放眼全亚洲都没有,无比期待千亿级参数国产模型的出现。

真心希望各地在计划搭建算力平台的机构、 政府,能以自身的在地算力为基础,集中区域资源,单点突破,加强GPU云服务能力,建设能够满足AGI长期、持续发展、有格局的智算中心。不要让我们的企业创新能力,在基建发展上被卡脖子,也不要让数字基建的冒进发展,再次出现当年中小厂关停并转的情况,带来资源流失和时间浪费......我们一定能够迎来一个全球领先地位的AI时代。

最后再次感谢服贸会.....给我们创造了超过16亿商业合作订单的沟通机会和意向。

作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
鸿博股份
工分
47.57
转发
收藏
投诉
复制链接
分享到微信
有用 24
打赏作者
无用
真知无价,用钱说话
1个人打赏
同时转发
评论(9)
只看楼主
热度排序
最新发布
最新互动
  • 半打韭菜盒子
    高抛低吸的散户
    只看TA
    2023-09-05 21:06
    这么说,这票调整后还可以中线持有
    0
    0
    打赏
    回复
    投诉
    于2023-09-05 23:08:35更新
    查看1条回复
  • 只看TA
    2023-09-06 08:48
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-09-05 21:54
    谢谢
    0
    0
    打赏
    回复
    投诉
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    2023-09-05 20:48
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-09-05 19:33
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-09-05 09:54
    感谢感谢
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-09-05 09:28
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 同人卦
    中线波段的游资
    只看TA
    2023-09-05 08:30
    周韡韡公关太强
    0
    0
    打赏
    回复
    投诉
  • 1
前往