云基建专题(二)-AI加速发展下-云基建产业新趋势-韭研公社

登录注册

云基建专题(二)-AI加速发展下-云基建产业新趋势

侃侃同学

全梭哈的散户

2023-03-28 07:29:49

AI大模型所需要的基础算力投资将大大增加。根据微软等前期对大模型的基础设施投入，从体量上看，单台GPU服务器（内配8张A100GPU卡）及套网络等产品整体造价有望达到170万元以上；以微软提出的针对chatGPT 4.0版本看，训练所需约2.4万片A100GPU，对应约3千台GPU服务器（内含8张GPU卡），参考目前产品价值量，我们测算上述上大模型训练的前期投资规模总计有望接近50亿元（含数据中心基础设施投资）。服务器环节为价值弹性最高环节；网络设备和光模块受益于速率升级，温控设备随着液冷的渗透率提升在机电设备总投入占比有望进一步提升。