算力需求促CXL加速渗透
飞雨希
疯狂打赏的散户
2023-06-20 23:38:28
2023年6月19日，腾讯云在北京召开行业大模型及智能应用技术峰会，首次公布腾讯云行业大模型研发进展，依托腾讯云TI平台打造行业大模型精选商店，为客户提供MaaS一站式服务，助力客户构建专属大模型及智能应用。随着大数据AI/ML等应用爆发，内存与算力间技术发展差距逐步加大，成为制约计算系统性能主要因素。 CXL有望突破内存墙及IO墙瓶颈，极高兼容性+内存一致性优势显著。当前主流计算系统数据处理方案依赖冯诺依曼架构（数据存储与数据处理分离体系），为满足速度及容量需求，现代计算系统通常采取高速缓存(SRAM)、主存(DRAM)、外部存储(NANDFlash)三级存储结构。越靠近运算单元存储器速度越快，但受功耗、散热、芯片面积等因素制约，相应容量越小。如SRAM响应时间为纳秒级，DRAM为100纳秒量级，NANDFlash为100微秒级，当数据在高速缓存/主存/外部存储三级传输时，后级响应时间及传输带宽将拖累整体性能，形成“存储墙”。IO墙产生于外部存储中，当数据量庞大需借助外部存储，并用网络IO访问数据。IO方式访问使访问速度成数量级下降，拖累整体性能。CXL（Compute Express Link），作为一种全新互联技术标准，可保证CPU与GPU、FPGA或其他加速器间实现高速高效互联，满足高性能异构计算要求，且维护CPU内存空间及连接设备内存间一致性，可突破内存墙及IO墙瓶颈，缩减整体响应时间。 CXL1.1三种协议直连带来容量及带宽拓展，CXL2.0加入Switch层引入内存池化技术，CXL3.0共享内存时代有望到来。CXL1.1支持CXL.io，CXL.cache，CXL.mem协议。CXL.io为PCIe5.0增强版本，运行于PCIe总线物理层，CXL.cache用于一致主机缓存访问，CXL.mem用于主机内存访问，三种方法构成连接主机与设备新基础路线。CXL2.0在CXL1.1基础上，增加热插拔（HotPlug）、安全升级、持久内存（Persistent Memory）、Telemetry、RAS支持及Switch等功能。加入Switch层，实现多设备连接到一个root port，且当设备内存不足时，CXL技术能够让设备在内存池里寻找内存空间。在该框架下，跨系统设备实现共享内存池成为可能。CXL3.0建立于PCI-Express 6.0之上（CXL1.0/1.1和2.0版本建立于PCIe5.0之上），其带宽提升两倍，且简单化部分复杂的标准设计，确保易用性。 CXL技术发展前景可期，国内外芯片大厂加速布局。2021年10月，Rambus发布CXL 2.0控制器。2022年5月，澜起科技发布全球首款CXL内存扩展控制器芯片（MXC）。2022年5月，美满电子宣布将收购先进CXL技术领先开发商Tanzanite。2022年8月，Microchip推出基于CXL新型SMC 2000系列智能存储控制器，使CPU、GPU及SoC利用CXL接口连接DDR4或DDR5存储器。2022年8月，SK海力士推出首款CXL存储器样品，有望于2023年量产；10月，全行业率先研发出首款将计算功能与CXL存储器相结合CMS；2023年1月，三星电子展示其512GBCXL内存扩展器；AMD预计将于2023年推出支持CXL1.1接口新品。 建议关注CXL技术相关标的：澜起科技、神州数码、 S得润电子(sz002055)S 等 风险提示：AI大模型发展不及预期；算力需求不及预期；CXL技术发展不及预期。
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
得润电子
工分
3.12
转发
收藏
投诉
复制链接
分享到微信
有用 1
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
评论（1）
只看楼主
热度排序
最新发布
最新互动
- 1