驱动事件

堪比吞金兽！培养一个ChatGPT需要消耗多少资源？

2023年04月14日 16:38 

来源： 财联社 

【堪比吞金兽！培养一个ChatGPT需要消耗多少资源？】专家指出,正如加密货币刚出来的时候那样,所有人都只在讨论新技术带来的利润,而忽略了其背后消耗的巨大能量。而人工智能是比加密货币所需计算量还要大的技术,而生成式人工智能需要经过大量的训练才能获得“智能”,并将不断改进,这一过程代表着巨大的资源消耗。

　　ChatGPT就像是现在吊在人类面前的大饼，让所有人都在狂热追逐人工智能。

　　然而，当市场热烈讨论人工智能技术革命将为世界带来更多生产力的同时，有人警告，要“养”ChatGPT实在是太费资源了。

　　专家指出，正如加密货币刚出来的时候那样，所有人都只在讨论新技术带来的利润，而忽略了其背后消耗的巨大能量。而人工智能是比加密货币所需计算量还要大的技术，而生成式人工智能需要经过大量的训练才能获得“智能”，并将不断改进，这一过程代表着巨大的资源消耗。

　　现实是，人类对于更大的模型和更大的训练集永远贪婪，这意味着，人工智能处理能力的提升，将永远伴随着资源的大量消耗。

　　太费电了

　　加拿大数字基础设施公司QScale的联合创始人Martin Bouchard表示，基于生成式AI的每一次查询都将需要普通搜索引擎四到五倍的计算能力，能源消耗也自然大幅增加。

　　据其估计，OpenAI在2023年1月的用电量可能相当于17.5万个丹麦家庭一年的用电量。Bouchard补充，这还只是基于目前模型使用情况的预测 ，如果其应用面更广，接下来AI的消耗规模可能就达到数百万人的等效用电量。

　　另据AI专家、牛津大学互联网研究所教授Sandra Wachter称，统计数据表明，全球范围内，信息和通信技术对气候变化的影响远大于航空业。光是AI所需的能源，在2012年至2018年间就大概增加了30万倍。

　　Wachter还补充道，ChatGPT每训练一次，就可能花费了可供126个丹麦家庭使用一年的能源。

　　而这也从另一方面反映出AI可能不那么美妙的地方：一旦ChatGPT被大规模商业化，并在经济生活中占据关键地位之后，如果OpenAI的计算中心不幸收到停电通知……

　　也很费水

　　能源消耗甚巨，AI对水的需求也同样巨大。正如人类需要进食喝水以维持正常的活动，人工智能一方面需要能源来进行计算，另一方面需要水来冷却数据中心，确保运行安全。

　　据科罗拉多河滨大学和德克萨斯大学的一篇预印本论文指出，仅ChatGPT上一代的模型——GPT-3的训练就消耗了近70万升的水，这足以生产370辆宝马汽车 。

　　研究称，普通用户与ChatGPT的对话同时，淡水被不停地消耗。换算一下，ChatGPT每与用户交流25-50个问题，其就需要“喝”下500毫升的水。而鉴于ChatGPT的受欢迎程度，该人工智能的存在很可能对当地供水造成巨大的麻烦。

　　研究还指出，OpenAI需要为其超级计算机中1万张显卡和超过28.5万个处理器内核提供冷却设备，这一过程足够生产320辆特斯拉汽车的电池。

　　更“娇贵”的是，这些用于冷却设备的水还不能是普通的水，其必须是干净的淡水源，以避免带来腐蚀和细菌滋生的问题。

　　专家们忧心忡忡，警告现有数据还只是建立在GPT-3模型上的估算，而拥有更多训练数据的GPT-4预计将消耗更多的能源和水。

　　ChatGPT越来越像是一个让人爱恨交加的“小妖精”，满口胡话的同时还需要重金养护。从这个角度看，人工智能想要真正在现实世界落地，企业们在技术革新的同时，还需要考虑如何降低这一人类难以承受的AI成本。

IT之家：2023/4/15 21:21:54华为 4 月 17 日首发全液冷超充架构・充电网络解决方案

美的储能热管理液冷新品发布，挑战复杂场景适应难题

（中国能源报202304/1019:32）4月7日，美的集团旗下美的楼宇科技正式发布多款储能热管理产品，均聚焦液冷技术路线，包括8kW储能热管理液冷机组（插框平台）、20/40kW储能热管理液冷机组（侧出风平台）、40kW储能热管理液冷机组（顶出风平台）包括8kW插框平台、20/40kW侧出风平台、40kW顶出风平台等。

瞄准液冷作为新业务增长点

“‘双碳’政策要求下，到2060年，我国风光发电占比将达到60%，不过，风光发电具有随机性、间歇性、波动性的特点，储能重要性日益凸显。当前，锂电池储能在新型储能技术中占比高达94%，在此情况下，行业对锂电池的热管理越来越重要。”储能领跑者联盟副理事长、美的楼宇科技水机产品公司研发中心部长骆名文介绍，目前，储能的热管理主要分为两大技术路线，一是以空调和风道供冷为主的风冷模式；其二是采用水、乙二醇、硅油等冷却液，进行散热的液冷技术。

控制系统温度，温控助力数字经济

华安证券机械团队张帆 徒月婷 有机投资 2023-03-15 18:32 发表于上海

ChatGPT热度的迅速提升，带动AI算力需求提升，数据中心（IDC）规模提升，全球保持10%的复合年增长率，国内保持约27%的复合年增长率，作为数据中心基础设施IDC温控迎来行业大发展的机会，液冷技术的成熟将助力数字经济安全发展，有望于2023年超预期表现。

新能源发电量的爆发，带来的发电不稳定以及电网超负荷的问题，需要由储能来解决，迎来了储能装机量的提升，特别是2023年开始工商业大储的需求强劲。作为储能系统安全的稳定器，储能温控迎来爆发的机遇。

AIGC发展与“东数西算”有望提升液冷温控渗透率

智通财经2023-04-14 07:202827人已读

中信建投证券发布研报表示，AI算力提升机柜功率密度，“东数西算”工程对于PUE提出严格要求，数据中心液冷方案渗透率有望提升。同时，服务器厂商已大力布局液冷产品，对于产业链协同问题的疑虑已经消除。液冷方案价值量显著高于传统风冷方案，随着国内数据中心建设推进和液冷渗透率提升，机房液冷温控市场空间广阔。

AI服务器需要高功率机柜，液冷或成为必选项

中信建投证券指出，AI大模型训练和推理运算所用的GPU服务器的功率密度将大幅提升，以英伟达DGX A100服务器为例，其单机最大功率约可以达到6.5kW，大幅超过单台普通CPU服务器500w左右的功率水平。根据《冷板式液冷服务器可靠性白皮书》数据显示，自然风冷的数据中心单柜密度一般只支持8-10kW，通常液冷数据中心单机柜可支持30kW以上的散热能力，并能较好演进到100kW以上，相比较而言液冷的散热能力和经济性均有明显优势。目前在AI算力需求的推动下，如浪潮信息、中兴通讯等服务器厂商已经开始大力布局液冷服务器产品，产业化进度有望加速。

“东数西算”工程明确PUE要求，液冷渗透率或显著提升

中信建投证券表示，当前我国数据中心年用电量已占全社会用电的2%-3%左右，东部核心地区已经提出严格要求，例如北上广均有明确政策要求新建数据中心PUE限制在1.3以下。“东数西算”工程要求张家口、韶关、长三角、芜湖、天府、重庆集群的PUE在1.25以下，和林格尔、贵安、中卫、庆阳集群的PUE在1.2以下。“东数西算”工程枢纽节点内的PUE要求更高，同时考虑到整体规划布局，未来新增机柜更多将在枢纽节点内，风冷方案在某些地区可能无法严格满足要求，液冷方案渗透率有望加速提升。

液冷方案价值量显著提升，市场空间广阔

中信建投证券认为，假设国内每年新增机柜数为100万架，新增IT负载量为250万kW，若全部采用风冷方案则对应温控市场规模为175亿元;若液冷方案渗透率达到70%则对应温控市场规模为315亿元(+80%)，其中液冷温控市场规模为262.5亿元，实际情况也可能更乐观。在液冷方案加速渗透过程中，数据中心温控厂商、液冷板制造厂商等有望受益。

液冷温控行业格局：

1、数据中心温控+储能温控:高澜股份、英维克、同飞股份。（科华数据，数据中心温控实力强大，但目前液冷方面未见明确布局。）

2、数据中心温控为主：申菱环境综合实力雄厚，有液冷产品应用成熟。佳力图和依米康也积极布局。

3、服务器液冷：浪潮信息（ALL IN液冷，液冷改造）、中兴通讯。

4、液冷液公司：润禾材料、巨化股份。

上述公司的详细情况请查看F10。也可参考本栏前文《液冷 液冷 ALL IN 液冷》。

从操作角度探讨，高澜股份弹性最高，浪潮信息堪当中军，英维克、申菱环境技术位置相当，佳力图中期具有较大预期差，但短期缺乏年报预告。（特别声明，截至目前，本人只有极少量的个别标的做跟踪研究用。）