Q:AI数据中心和传统的云计算数据中心相比来的话,会新增哪些硬件?
Chatgpt需要的算力形态:OpenAI的模型需要消耗3640PF-days也就相当于它是需要拥有1万片的GPU和25.8万片的CPU才能跑出来到它算力模型。满足日活13,000的访问量,在24小时以5倍的峰值来计算的话,那么它一共需要602台的一个DJXA100。在整个的一个光AI服务器上面,它的需求量是非常庞大的,它每一台的服务器可能达在60~100万人民币的价值量Gpt4参数量是100倍的一个增长,是100万亿个模型参数,日访问量则需要6万台的a100,如果使用H800或者是H100的话,它需要1万台,这是在看到计算层面。还有推理卡的需求
Q:GPU在这块现在的供应格局怎么样?微软这些国外数据中心的解决方案?国内的?GPU国内受限,怎么解决?
AIGC领域的话最优先英伟达的GPU,我们还有ASIC和fpga的,它们会有局限,比如说ASIC它的研发成本会比较高,周期性比较长,FPGA它又比较局限性,它的延时又比较高,又不适合进行批量性的交互。单个的服务器的FPGA的模型不能够与其他服务器进行串联,这是它的一个局限性,未来还是以英伟达的产品为主。目前在海外整个的一个客户的交付全都是以英伟达的A100交付为主,在国内来讲的话,我们的算力集群里面可能会加一些国产的芯片,比如说寒武纪的、燧原或者是百度昆仑芯,但它的比例比较小,可能只有在10~15%左右,甚至说可能更少。
在国内来讲的话,头部互联网客户的策略是战略备货,21年开始都会有20%左右的一些战略物资的储备。也有消息称在给国家的政府方面进行一些物资的储备。美国那边其实有很多的实体名单,或者是芯片技术不得超过美国,产品产能不能达到一定的保障。寒武纪590虽然流片ok了,但是它的性能来讲不能达到美国产品的100%.
英伟达的Dgx服务器交给哪家厂商在做?
他自己在做,他有自己的海外的代工厂,这个不太清楚。在国内来讲的话,就是像超威他应该是海外我们预估有一部分份额是超威帮他去生产。
Q:chatgpt已经火了三个月,服务器有开始加单吗?
我们现在拿到了百度、阿里、腾讯还有360的一些订单,百度这边的话是500台,然后阿里这边的话再洽谈5000~1万台,今年年中的时候部署5000台,但是因为受公司的制裁的影响,我们再去确认芯片是由英伟达直接交付,由浪潮组装,还是说由我们进行整机交付,这个模式还在进行确认。腾讯1000台的需求量的下单的增加.然后360在谈800台A800的需求
Q:到底是用a8a800还是什么类型?
去年储备A100,今年现在是A800;H800还没交货
Q:有两种协议PCIE和NV-link,在服务器里面现在是哪一种比较多?
NV-link从训练来讲的话效果是最好的。一个是连接形式和它的底层结构不太一样,PCIE的话它肯定会有损耗,而且它要加上底层的这些link的接口,所以会有一些不太优于NV-link的,所以大部分厂商在人工智能训练上面都会用级联的模式。
Q:对存储比如说有些新的需求量很会很大吗?
头部不影响,自己有;创业公司有,但增量不大。GPU服务器需要网络,然后它都是有层次和比例构成的,它底层还会有一些存储,它数据不断的进行迭代运算,调取这种因为它单价比较低,所以不构成一定的影响。
Q:浪潮进了实体清单,现在最新是一个什么样的说法?
lcxx已经跟浪潮集团进行了剥离,从整个一个法律层面角度来讲,英特尔已经公开会支持浪潮信息的一个供货,也断供了两个星期之后,现在已经实现了完整的一个供货了。海外的CPU、GPU都是正常能够浪潮信息这边是可以去采购的。浪潮这边的CPU的交付周期是在4周左右,GPU的交付周期是在2~6个月,分不同的产品型号,也找英特尔那边备货了200亿的CPU,所以能够维持一定的不可抗力。
手里的存量有多少?
我们没有存量,我们都是备货订单,英特尔200亿,英伟达那边不太清楚,因为英伟达的产品价值比较高。
浪潮AI的GPU的一个服务器占比能在多少?
整体服务器的销售额应该在100亿左右,AI的可能会20%,也就是100多个亿??
但里面结构多,没办法细分服务器的出货数量上大概能占到多少?
我不是非常清楚具体收入数据,但是IDC报告中国市场今年大概是100多万台的一个出货量,AI服务器的出货量才只有十几万台。AI服务器相较传统服务器需要价值量显著提升的一些部件?
通常在AI服务器里边的话,会使用更高性能的CPU以及我闪存,比如说NVMD的硬盘,在通用服务器里边的话,这些产品可能用的不是非常多,在高性能计算里边的话,可能会你要求的所有的部件逐渐的性能就往上去提了,那么整机的成本就有所增加,可能跟通用的用的产品不太相同。比如你要用IP交换机和IP线来减少它的网络的延迟。
Q:交换机整体它能提高大概有多少?
我不是非常了解交换机这边,因为浪潮不擅长卖交换机阿里或者百度去年下了多少量?22年12月份,阿里说23年100个亿,但是今年新增的这A800的需求有可能会增加100亿,不单单它的是Gpu服务器,再加上它的一些计算和存储节点;腾讯40亿,新增的a800的需求预估是20个亿,头条这边去年和今年会维持在140亿的一个采购规模,但是并没有透露它新增AIGC的需求百度30个亿,新增的需求预估10个亿左右。快手京东和美团维持在20~30亿这采购规模,就是所有的solo服务器,它包含AI,每一家的AI采购的占比不太一样,像阿里、腾讯,还有百度,他们的占比可能会在30~40,像头条、快手、京东和美团,在10~20%没有增加太多?