①英伟达开发的AI代理Eureka引入大模型参与训练,可以教会机器人复杂的运动控制技能,Meta Habitat 3.0模拟器可教授机器人如何与物理世界进行交互;
《科创板日报》10月21日讯 如今,科技巨头主动肩负起机器人研发的重任,正你追我赶奔赴下一场科技盛宴。当地时间10月20日,英伟达、Meta各自发布了重磅机器人训练大模型。
英伟达开发的AI代理Eureka可以教会机器人复杂的运动控制技能,比如转笔、打开抽屉和柜子、抛球和接球、操作剪刀。英伟达称这一突破将重新定义机器学习。
究竟是什么样的工具?新成果的意义何在?
▌英伟达Eureka——大模型参与训练机器人
Eureka的全称是Evolution-driven Universal Reward Kit for Agent,本质是一种由大模型驱动的算法生成工具。借助GPT-4写代码的能力,Eureka拥有了出色的奖励函数设计能力,可以自主编写奖励算法来训练机器人。
Eureka的关键所在,是通过上下文来实现了人类水平的奖励算法设计。简单来说,就是用GPT-4的零样本生成、代码编写以及上下文改进功能,对奖励执行策略进行优化,由此通过强化学习来进行复杂的技能。
英伟达称,在29种不同的开源强化学习(RL)环境中,Eureka奖励设计的性能达到了人类水平,这些环境包括10种不同的机器人形态(四足机器人、四旋翼机器人、双足机器人、机械手以及几种灵巧手)。在没有任何特定任务提示或奖励模板的情况下,Eureka生成的奖励程序在超过80%的任务上优于专家编写的奖励程序。这使得机器人的平均性能提高了50%以上。
英伟达这项研究由其与宾夕法尼亚大学、加州理工学院、德州大学奥斯汀分校的研究人员合作完成。目前该项目完全开源。
在机器人领域,有一个“莫拉维克悖论”——人类所独有的高阶智慧能力只需要非常少的计算能力,但无意识的技能和直觉(如辨识人脸、举起铅笔、在房间内走动、回答问题等能力)却需要极大的运算能力,即越简单的事情越难,越难的事情越简单。
这也是为什么人类早已创造出打败世界顶级棋手的AlphaGo,却仍不能让机器人拥有像两三岁小孩一样的感知力和行动力。
英伟达的最新成果展示了大模型在机器人精细化控制方面的作用,在英伟达的推动下,更智能的机器学习方式有望被迅速引入工业和消费应用领域。
MLOps是指机器学习开发运维一体化,包含项目设计、模型开发、模型运维三大步骤,将业务、数据、算法和运维融合一起,主要作用是构建可通用、可复用的模型生产流水线。可以理解为人工智能生产力加速器。
需要指出的是机器学习的生命周期全流程非常复杂,并实际运用中,业务与模型经常脱节,存在很多的问题,比如工具的碎片化、数据样本缺乏,集成开发环境缺失、行业知识短板、团队之间缺乏协同等。
为了改善甚至消除以上问题,MLOps应运而生,实施MLOps可以更好的衔接模型开发运维全流程,打造自动化、可重复的工作流,从而提升开发运行效率。
中金表示,MLOps是AI掘金时代的“铲子”,从模型到生产应用,MLOps助力AI模型落地生花。AI大规模生产中存在由于流程、管理不当造成的效率低、周期长等问题影响实际落地,MLOps是为解决上述问题、通过统一ML研发和运营过程实现提质增效的一套工程管理方法论和工具链,赋能AI模型全生命周期的各个流程。
MLOps概念大全如下所示:
恒华科技(300365):2023年4月18日公司在互动平台回复,公司的人工智能引擎AI-Enginev1.0属于MLOps系统。它提供了一整套覆盖模型生命周期的支持,包括数据标注、模型设计、模型训练和服务发布等。
新炬网络(605398):持续深度参与由中国信通院发起的多个创新工作组织,公司是是中国信通院AIOps标准编制工作组等成员单位,参与“云计算智能化运维(AIOps)能力成熟度模型”系列标准、“人工智能研发运营一体化(Model/MLOps)能力成熟度模型”系列标准等。
科大国创(300520):据2021年年报,国创九章数据智能平台持续做深平台的数据处理、AI开发、AI推理和AI部署能力,打造云边端协同的一站式AI平台,持续深化并行计算、高性能推理等核心技术的应用,以MLOps理念构建AI开发敏捷流水线,赋能行业客户端到端的业务建模。
星环科技(688031):据公司招股意向书,SophonMLOps通过统一纳管多源异构的算法框架、模型文件和模型服务,同时通过规范化的集成管理,统一部署大规模机器学习模型,并且提供实时监控模型服务的运行状态,可大幅降低模型管理成本,提升模型使用效率与运营能力,降低模型集成管理成本,控制生产环境风险。
奥比中光(688332):互动易表示,MLOps是指完成AI模型开发和落地的一套工具包和工作流程。目前,公司在个别产品上有MLOps实践,但工具通用性还不够,未来随着更多应用场景的落地,有望将这些工具迭代的更为通用。