登录注册
云从科技-受益于复旦发布国内首个类ChatGPT模型MOSS并且脱离证监会监管二波预期
秋名山白神
超短低吸的老司机
2023-02-20 22:58:06

 ChatGPT发布以来,基于指令学习技术的类ChatGPT模型在我国能否开发成功,成为业界关注的一个焦点。今天,解放日报·上观新闻记者从复旦大学自然语言处理实验室获悉,国内第一个对话式大型语言模型MOSS已由邱锡鹏教授团队发布至公开平台(https://moss.fastnlp.top/),邀公众参与内测。

MOSS可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。这条路径的走通,为国内学术界和产业界提供了重要经验,将助力大语言模型的进一步探索和应用。

邱锡鹏表示:“尽管MOSS还有很大改善空间,但它的问世证明了在开发类ChatGPT产品的路上,国内科研团队有能力克服技术上的重要挑战。”MOSS研发项目得到了上海人工智能实验室的有力支持。后期,这项工作将通过开源方式和业界社区分享。

这个新闻最大的利好的股票是云从科技,因为新闻里有很重要的一句话,MOSS项目得到了上海人工智能实验室的有力支持。

 

我爬虫了复旦大学自然语言处理实验室上海人工智能实验室得到的消息是复旦大学自然语言处理实验室有点偏教学性质的理论研究,更多的是依靠上海人工智能实验室的技术支持,而爬虫了上海人工智能实验室查到了关键信息,他都指向了A股唯一的一个上市公司它就是云从科技,首先是上海人工智能实验室的创建者之一就是上海交通大学

王延峰先生, 1977 年出生,中国国籍,无境外永久居留权,博士研究生学历。 毕业于上海交通大学企业管理专业, 获得博士学位。 2015 年至 2018 年, 任上海交通大学电子信息与电气工程学院副院长; 2017 年至 2021 年, 任上海交通大学苏州人工智能研究院院长;现任公司独立董事, 博泰车联网科技(上海)股份有限公司独立董事, 上海交通大学博士生导师, 上海交通大学人工智能研究院副院长 上海人工智能实验室主任助理, 上海人工智能研究院有限公司董事, 上海媒智科技有限公司董事, 全球高校人工智能学术联盟秘书长。

云从科技的董事就是上海交通大学人工智能研究院副院长兼任上海人工智能实验室主任助理。

 周曦先生, 1981 年出生,中国国籍,无境外永久居留权,博士研究生学历。毕业于美国伊利诺伊大学电子与计算机工程专业,获得博士学位。 2011 年 11 月至 2015 年 5 月,任中科院重庆绿色智能技术研究院智能多媒体技术研究中心主任、电子信息技术研究所副所长; 现任公司董事长、总经理, 中科院重庆绿色智能技术研究院博士生导师, 上海交通大学博士生导师, 重庆中科云从科技有限公司董事长兼经理, 常州云从信息科技有限公司执行董事, 上海云从企业发展有限公司执行董事。

云从科技的董事长周曦也是上海交通大学的博士生导师,所以这几层关系之后就破案了。

然后是下面云从科技上海交通大学一起合作发表的论文

近日,国际NLP领域顶级会议拉开帷幕。云从科技上海交通大学联合研究团队的《Relation-aware Network:探索视频片段定位任务中的多种层面关系》成功入选会议论文

EMNLP(Conference on Empirical Methods in Natural Language Processing)是计算语言学和自然语言处理领域的顶级国际会议之一,由国际语言学会(ACL)旗下SIGDAT组织。EMNLP论文入选标准十分严格,今年论文录取率仅23.3%,相比去年略有下降。EMNLP学术会议上展示的研究成果,被认为代表着自然语言处理领域的前沿水平与未来发展方向。

本次入选论文,围绕“基于语言查询的视频片段定位”这一视觉-文本的跨模态任务,将NLP与视觉技术结合,技术让机器同时具备“理解文字”和“看懂视频”的能力

还有一个很重要的时间节点是云从科技2月20日收盘之后证监会的监管就正式结束了,明天2月21日就出池子,大资金可以从容的二波启航

 60分钟线支撑咔咔强烈,马上重新扬帆起航!

至于云从科技的其他基本面我就不多说了,刚开始第一波上涨已经被老师们都挖到了,我只负责挖今天晚上新闻发酵的逻辑,所以明天看好云从科技的低吸机会


下面是moss相关的具体新闻:

“端到端”走通大语言模型

由于ChatGPT并未开源,其技术方案细节也未公开,科研人员对此有诸多猜测。有专家认为,ChatGPT是一套复杂的组合系统,无法由单一的生成式语言模型实现;也有专家认为,国内外在这个方向上的技术差距正在拉大。

作为自然语言处理专家,邱锡鹏近年来致力于研究具有多任务学习能力的通用模型。为了探索ChatGPT的技术路线,并获得大语言模型研究的一手经验,他带领团队加快了MOSS开发。如今,MOSS成为国内首个公开亮相的类ChatGPT语言模型,“端到端”走通了大语言模型的开发全程。

MOSS开发的基本步骤与ChatGPT一样,包括自然语言模型的基座训练、理解人类意图的对话能力训练两个阶段。在对话能力训练阶段,OpenAI收集了至少几十万条人类指令,让各行各业的专业标注员写出指令回复,再将它们输入模型基座,以帮助ChatGPT逐步理解各种指令。复旦团队则采用不同的技术路线,通过让MOSS和人类以及其他对话模型都进行交互,显著提升了学习效率和研发效率,短时间内就高效完成了对话能力训练。

邱锡鹏坦言:“MOSS与ChatGPT的差距主要在自然语言模型基座预训练这个阶段。MOSS的参数量比ChatGPT小一个数量级,在任务完成度和知识储备量上,还有很大提升空间。”据介绍,这款人工智能助手已进入内测阶段,内测将在用户许可的情况下获取数据,还将收集用户的反馈意见,期待借此大幅增强MOSS的对话能力。

实测对话、编程等多种能力

MOSS回答问题的水平如何?记者用中文问了它几个问题。

“一些人觉得,人工智能将取代很多人的工作,你觉得呢?”MOSS回答:“我认为人工智能不会完全取代人类,而是在一定程度上帮助人们完成工作。例如,机器可以提高数据分析、决策制定等过程中的效率,并可以节省大量时间和精力。此外,AI也可以用来协助人类完成更复杂的任务,比如诊断疾病、开发新产品等。总之,AI可以使人类的工作更加高效,但它不会完全取代人类。”

image

记者又问:“对于上海如何更好地发展人工智能产业,你有什么建议?”MOSS回答:“我认为上海可以通过以下方式来更好地发展人工智能产业:1.加强人工智能领域的研发,支持学术研究,促进科学发展;2.加强行业资源整合,推动人工智能产业的发展;3.加强人工智能相关产品的研发,提高产品的竞争力;4.加强人工智能产业的投资,促进投资者的参与;5.加强人工智能产业的法律法规,保障人工智能产业的健康发展。”

image

可以看出,MOSS的回答语言流畅、逻辑清晰且观点正确。但科研团队也坦诚指出,当前版本的MOSS表现不够稳定,有些回答存在事实差错或逻辑不顺。“MOSS的英文回答水平比中文高,因为它的模型基座学习了3000多亿个英文单词,中文词语只学了约300亿个。”

科研团队在演示时,用英文输入多个指令,展示了MOSS多轮交互、表格生成、代码生成和解释能力。

image

开源降低中小企业研发门槛

进入内测阶段后,用户可以通过MOSS网站(https://moss.fastnlp.top/) 申请内测。科研团队期待通过内测获取对话数据,以提升MOSS的多方面能力。

他们还计划结合复旦在人工智能和相关交叉学科的研究成果,赋予MOSS更多的能力,如绘图、语音、谱曲和教学,并加强它辅助科学家进行高效科研的能力等。

目前,MOSS的最大短板是中文水平不够高,主要原因是互联网上中文网页干扰信息如广告很多,清洗难度很大。为此,复旦大学自然语言处理实验室正在加紧推进中文语料的清洗工作,并将清洗后的高质量中文语料用于下一阶段模型训练。科研团队相信,这将有效提升模型的中文对话能力。

未来,科研团队将通过开源方式分享这项工作的成果,促进学术界和产业界对预训练语言模型的分析与研发。预训练大语言模型的研发门槛很高,需要大量算力、训练语料和人工标注。在我国产业界,只有大型机构才有实力开发大模型。MOSS开源后,可有效降低预训练语言模型的研发和应用门槛,让中小企业在其基础上开发出智能客服、智能家居、人工智能律师等各种垂直类产品。

“MOSS的计算量相对不那么大,中小企业都能用起来。”邱锡鹏说,“期待复旦团队和上海人工智能实验室继续合作,通过MOSS以及后续的研究探索,推动AI普惠,尽快赋能国内的人工智能产业。”

作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
云从科技
S
三六零
S
中国电信
工分
22.01
转发
收藏
投诉
复制链接
分享到微信
有用 38
打赏作者
无用
真知无价,用钱说话
7个人打赏
同时转发
评论(48)
只看楼主
热度排序
最新发布
最新互动
  • MUgua2022
    全梭哈的散户
    只看TA
    2023-02-20 23:00
    老师神速
    3
    0
    打赏
    回复
    投诉
    于2023-02-20 23:41:41更新
    查看3条回复
  • 秋名山白神
    超短低吸的老司机
    只看TA
    2023-02-20 23:02
    不知道为啥被分类为了广场,明天早上再看!晚安!
    1
    0
    打赏
    回复
    投诉
    于2023-02-21 07:34:23更新
    查看2条回复
  • 天天老师
    超短追板
    只看TA
    2023-02-20 23:16
    感谢老师分享,这个标的挖的真好,逻辑很正,明天我竞价就上车了
    1
    0
    打赏
    回复
    投诉
    于2023-02-21 04:38:05更新
    查看1条回复
  • 只看TA
    2023-02-21 05:48
    位置相当好,也已经开始摆脱海天瑞声的影响
    0
    0
    打赏
    回复
    投诉
    于2023-02-21 06:47:05更新
    查看1条回复
  • 只看TA
    2023-02-21 04:04
    神功早练成
    0
    0
    打赏
    回复
    投诉
    于2023-02-21 04:38:49更新
    查看1条回复
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    2023-02-20 23:35
    挖掘的及时
    0
    0
    打赏
    回复
    投诉
    于2023-02-21 04:39:36更新
    查看1条回复
  • 只看TA
    2023-02-21 12:47
    老师优秀
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-02-21 12:10
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-02-21 10:08
    不错
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-02-21 08:58
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 1
  • 2
  • 3
前往