算力产业链·互联方案：GPU卡间互联→PCI
波罗
2023-03-31 08:20:30
【浙商·蒋高振】算力产业链·互联方案：GPU卡间互联→PCIe/NVlink，服务器互联→IB/以太网！♻︎潜在受益：裕太微——千兆以太网卡芯片澜起科技——PCIe Retimer芯片🔀数据互联：随着模型复杂程度增加，单张GPU无法完成训练任务，需要联合多张GPU，乃至多台服务器搭建集群协同工作，并需要GPU之间以及服务器之间进行数据传输交互。由于大模型数据量极大，在机器学习训练过程中，数据传输速度成为制约训练速度提升的瓶颈。在传统的方案中，GPU互联通常采用PCIe，服务器之间互联采用以太网Ethernet。🔀英伟达：为了实现极限的超高计算密度，英伟达推出的DGX工作站采用NVLink技术代替传统的PCIe技术，可提供能够实现出色深度学习所需的通信性能。相较采用PCIe， NVLink技术带宽增加5倍。除能够实现GPU间高速内部通信的NVLink技术外，DGX还采用了InfiniBand代替Ethernet，为系统和系统间通信提供更大带宽，减少数据传输延迟造成的瓶颈。🔀国内视角：服务器互联——裕太微电子推出千兆以太网卡芯片（NIC），该芯片可通过PCIE接口与电脑交互数据流，调整为适配数据包后，通过以太网物理层接口发送或接收来自其他服务器的数据。GPU互联——澜起科技PCIe Retimer芯片，采用先进信号调理技术来补偿信道损耗并消除各种抖动源影响，从而提升信号完整性，增加高速信号的有效传输距离，为服务器、存储设备及硬件加速器等应用场景提供可扩展的高性能PCIe互连解决方案。
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
裕太微
S
澜起科技
工分
34.79
转发
收藏
投诉
复制链接
分享到微信
有用 62
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
评论（35）
只看楼主
热度排序
最新发布
最新互动
- 1
- 2
- 3
- 4