登录注册
AI服务器交流
白蓝小牛牛
追涨杀跌的随手单受害者
2023-03-26 22:44:04

Q:AI数据中心和传统的云计算数据中心相比来的话,会新增哪些硬件?

 

Chatgpt需要的算力形态:OpenAI的模型需要消耗3640PF-days也就相当于它是需要拥有1万片的GPU25.8万片的CPU才能跑出来到它算力模型。满足日活13,000的访问量,在24小时以5倍的峰值来计算的话,那么它一共需要602台的一个DJXA100。在整个的一个光AI服务器上面,它的需求量是非常庞大的,它每一台的服务器可能达在60~100万人民币的价值量Gpt4参数量是100倍的一个增长,是100万亿个模型参数,日访问量则需要6万台的a100,如果使用H800或者是H100的话,它需要1万台,这是在看到计算层面。还有推理卡的需求

 

Q:GPU在这块现在的供应格局怎么样?微软这些国外数据中心的解决方案?国内的?GPU国内受限,怎么解决?

 

AIGC领域的话最优先英伟达的GPU,我们还有ASICfpga的,它们会有局限,比如说ASIC它的研发成本会比较高,周期性比较长,FPGA它又比较局限性,它的延时又比较高,又不适合进行批量性的交互。单个的服务器的FPGA的模型不能够与其他服务器进行串联,这是它的一个局限性,未来还是以英伟达的产品为主。目前在海外整个的一个客户的交付全都是以英伟达的A100交付为主,在国内来讲的话,我们的算力集群里面可能会加一些国产的芯片,比如说寒武纪的、燧原或者是百度昆仑芯,但它的比例比较小,可能只有在10~15%左右,甚至说可能更少。

在国内来讲的话,头部互联网客户的策略是战略备货,21年开始都会有20%左右的一些战略物资的储备。也有消息称在给国家的政府方面进行一些物资的储备。美国那边其实有很多的实体名单,或者是芯片技术不得超过美国,产品产能不能达到一定的保障。寒武纪590虽然流片ok了,但是它的性能来讲不能达到美国产品的100%.

 

英伟达的Dgx服务器交给哪家厂商在做?

 

他自己在做,他有自己的海外的代工厂,这个不太清楚。在国内来讲的话,就是像超威他应该是海外我们预估有一部分份额是超威帮他去生产。

 

Q:chatgpt已经火了三个月,服务器有开始加单吗?

 

我们现在拿到了百度、阿里、腾讯还有360的一些订单,百度这边的话是500台,然后阿里这边的话再洽谈5000~1万台,今年年中的时候部署5000台,但是因为受公司的制裁的影响,我们再去确认芯片是由英伟达直接交付,由浪潮组装,还是说由我们进行整机交付,这个模式还在进行确认。腾讯1000台的需求量的下单的增加.然后360在谈800A800的需求

 

Q:到底是用a8a800还是什么类型?

 

去年储备A100,今年现在是A800H800还没交货

 

Q:有两种协议PCIENV-link,在服务器里面现在是哪一种比较多?

 

NV-link从训练来讲的话效果是最好的。一个是连接形式和它的底层结构不太一样,PCIE的话它肯定会有损耗,而且它要加上底层的这些link的接口,所以会有一些不太优于NV-link的,所以大部分厂商在人工智能训练上面都会用级联的模式。

 

Q:对存储比如说有些新的需求量很会很大吗?

 

头部不影响,自己有;创业公司有,但增量不大。GPU服务器需要网络,然后它都是有层次和比例构成的,它底层还会有一些存储,它数据不断的进行迭代运算,调取这种因为它单价比较低,所以不构成一定的影响。

 

Q:浪潮进了实体清单,现在最新是一个什么样的说法?

 

lcxx已经跟浪潮集团进行了剥离,从整个一个法律层面角度来讲,英特尔已经公开会支持浪潮信息的一个供货,也断供了两个星期之后,现在已经实现了完整的一个供货了。海外的CPUGPU都是正常能够浪潮信息这边是可以去采购的。浪潮这边的CPU的交付周期是在4周左右,GPU的交付周期是在2~6个月,分不同的产品型号,也找英特尔那边备货了200亿的CPU,所以能够维持一定的不可抗力。

 

手里的存量有多少?

 

我们没有存量,我们都是备货订单,英特尔200亿,英伟达那边不太清楚,因为英伟达的产品价值比较高。

 

浪潮AIGPU的一个服务器占比能在多少?

 

整体服务器的销售额应该在100亿左右,AI的可能会20%,也就是100多个亿??

 

但里面结构多,没办法细分服务器的出货数量上大概能占到多少?

 

我不是非常清楚具体收入数据,但是IDC报告中国市场今年大概是100多万台的一个出货量,AI服务器的出货量才只有十几万台。AI服务器相较传统服务器需要价值量显著提升的一些部件?

 

通常在AI服务器里边的话,会使用更高性能的CPU以及我闪存,比如说NVMD的硬盘,在通用服务器里边的话,这些产品可能用的不是非常多,在高性能计算里边的话,可能会你要求的所有的部件逐渐的性能就往上去提了,那么整机的成本就有所增加,可能跟通用的用的产品不太相同。比如你要用IP交换机和IP线来减少它的网络的延迟。

 

 

Q:交换机整体它能提高大概有多少?

我不是非常了解交换机这边,因为浪潮不擅长卖交换机阿里或者百度去年下了多少量?2212月份,阿里说23100个亿,但是今年新增的这A800的需求有可能会增加100亿,不单单它的是Gpu服务器,再加上它的一些计算和存储节点;腾讯40亿,新增的a800的需求预估是20个亿,头条这边去年和今年会维持在140亿的一个采购规模,但是并没有透露它新增AIGC的需求百度30个亿,新增的需求预估10个亿左右。快手京东和美团维持在20~30亿这采购规模,就是所有的solo服务器,它包含AI,每一家的AI采购的占比不太一样,像阿里、腾讯,还有百度,他们的占比可能会在30~40,像头条、快手、京东和美团,在10~20%没有增加太多?

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
浪潮信息
S
工业富联
工分
5.02
转发
收藏
投诉
复制链接
分享到微信
有用 4
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(3)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2023-03-27 01:29
    谢谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-03-26 23:07
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-03-26 22:48
    0
    0
    打赏
    回复
    投诉
  • 1
前往