推进新质生产力!实现产业智能化!
此前智微智能作为英特尔“钛金级合作伙伴(最高级)”受邀出席
智微智能致力于促进计算机设备行业的发展以及推动行业解决方案的创新,同时一直坚持为客户提供高品质的产品和优质的服务,在此次论坛上展示了图形工作站、绿色商用PC、一体机、云终端、MiniPC、AI BOX等产品。 荣获“AIGC工作站卓越拓展奖”
AI服务器概述
服务器随场景需求分为通用服务器、云服务器、边缘服务器、AI服务器四种模式。AI服务器采用GPU增强其并行计算能力,CPU+GPU是AI服务器的核心部件。AI服务器可分为深度学习训练型和智能应用推理型,训练对芯片算力要求更高,推理对算力的要求偏低。中国AI服务器推理负载占比约55.5%,未来有望持续提高。当下AI服务器通常采用异构形式,在训练模型或者应用推理等情况下,CPU+GPU组合仍然是实现数据中心加速的首选。
训练:属于非实时业务,所耗时间可能数天也可能数月,具体取决于模型参数量的多少和算力芯片性能的高低,因此在算力芯片和服务器的投入上,属于用户对阶段性模型训练需求的一次性高投入成本。
推理:属于实时业务,需要响应客户端触发的实际需求,算力需求取决于活跃用户数和设计并发数的级别,因此算力芯片和服务器的投入,会随着模型的商用流行度以及吸引的活跃用户数持续增加。
加上数据量的剧增,不同应用场景对AI服务器的芯片散热、整机设备散热和电源功率及效率要求大幅提升,RAID控制卡随数据量同步增加,PCIe接口传输速率也随之迎来升级。此外,为了保障数据安全,AI服务器必须加强数据加密技术,并建立定期备份和恢复机制,以满足不断增长的AI应用需求,并确保AI服务器性能和可靠性的持续提升。
智微智能AI服务器
智微智能AI服务器目前拥有SYS-80215R、SYS-8029R-S06、SYS-8049RG 三款产品。产品均采用Intel 至强可扩展系列处理器平台,为AI领域提供强大支持,满足实时数据处理、训练和推理等关键需求。工规级设计,适用于各种复杂场景下的部署和应用。