登录注册
【海通】AI产业链研究(20)-chatGPT下游应用和场景商业化广阔
波罗
2022-12-05 23:29:11
OpenAI发布能够以对话形式交互的模型ChatGPT。2022年11月30日,人工智能实验室OpenAI推出了一款名为ChatGPT的模型,该模型能够以对话形式交互。对话模式使ChatGPT能够回答后续问题、承认错误、质疑不正确的前提和拒绝不适当的请求。就发展历程来看,ChatGPT根据GPT-3.5系列的一个模型进行微调,两者均于微软Azure AI服务器上训练。相较而言原先GPT-3的训练集只有文本,本次新推出的ChatGPT新增了代码理解和生成的能力。此外,ChatGPT是2022年1月推出的InstructGPT的兄弟模型。InstructGPT增加了人类对模型输出结果的演示,并且对结果进行了排序,在此基础上完成训练,可以比GPT-3更好的完成人类指令。人工智能实验室OpenAI于2015年成立,由Twitter现任CEO埃隆·马斯克和OpenAI现任CEO萨姆·奥特曼及其他投资者共同创立。随着ChatGPT的发布,马斯克在Twitter上公开表示了对OpenAI的认可,并且通过在Twitter上展示自己询问ChatGPT怎么设计Twitter时ChatGPT给出的回复,进一步扩大了对ChatGPT的关注度。目前,ChatGPT正处于免费适用阶段。

ChatGPT相较GPT 3.5主要有三点提升。(1)ChatGPT能够记住之前的对话,连续对话的感觉更加用户友好。(2)ChatGPT可以承认错误,并能够根据用户的提示对原答案进行修正。(3)ChatGPT可以质疑不正确的前提。GPT-3刚发布后很多人测试的体验并不好,主要是因为AI经常创造虚假的内容,尽管这些内容话语通顺,但脱离实际。例如,GPT-3面对类似“哥伦布2015年来到美国的情景”的问题,并不能识别假设的逻辑错误,但ChatGPT面对类似问题时,能够立刻意识到哥伦布并不属于这个时代,并向提问人发出质疑。我们认为,ChatGPT能够给用户更好的使用体现,ChatGPT通过与用户交互的过程,能够不断修正补充样本,从而实现深度训练。

ChatGPT的能力提升得益于其训练方法。大模型是指通过在模型中加入海量参数,使得模型在语料的覆盖范围、丰富度上以绝对绝对规模增长。当下大模型的工作范式是“预训练-微调”。首先在数据量庞大的公开数据集上训练,然后将其迁移到目标场景中(比如跟人类对话),通过目标场景中的小数据集进行微调,使模型达到需要的性能。因此,为提高新一代模型对人类提问的适配能力,要么需要改造任务,要么需要微调模型,总之是让模型和任务更加匹配,从而实现更好的效果。ChatGPT新加入的训练方式被称为“从人类反馈中强化学习”(Reinforcement Learning from Human Feedback,RLHF),即采取模型微调的形式。我们认为,尽管微调/prompt等工作从本质上对模型改变并不大,但是有可能大幅提升模型的实际表现。

大模型作为ChatGPT的基础,于AI行业发展具有广阔前景。大模型的优势在于机器对自然语言理解能力的不断提升,准确率也能不断取得突破。从前大模型的提升重心更多放在了大模型(LLM)本身和Prompt Engineering上,ChatGPT的迭代重点是任务导向训练、模型结果和大模型本身之间的闭环。此外,ChatGPT通过微调/Prompt不断优化其大模型,在识别、判断和交互层面具有技术优势。自2020年OpenAI推出NLP大模型GPT3至今,全球范围内AI大模型迎来大爆发,参与企业越来越多,参数级别越来越大,成为新一轮AI竞赛的赛场。目前,大模型吸引了谷歌、微软、英伟达、华为、智源研究院、百度、阿里、商汤、中科院自动化所等科技巨头和顶尖科研机构参与其中,各家大模型的参数量级也从千亿、万亿,迅速跃迁到了10万亿级别。

产业链角度来看,ChatGPT将利好多种人工智能下游运用场景。(1)编程机器人。作为一种对话式大型语言模型,ChatGPT 最擅长的就是回答用户提出的问题,其中最关键的是 ChatGPT 具备与编程相关的基础知识。这就让 ChatGPT 成为类似于 Stack Overflow 的编程问答工具,只不过回答问题的主体是AI。如OpenAI官网展示,面对用户对于debug的请求,ChatGPT会先和用户交互确认debug过程中需要关注具体问题,从而给出正确的代码。(2)艺术创作。尽管ChatGPT只是一个对话式的语言模型,本身不能生成多模态内容,但可以把它输出的结果作为一个中间变量输入其他模型,从而进一步拓展其功能。例如,通过ChatGPT 和Stable Diffusion的结合使用,能够生成艺术性极强的画作。其外,ChatGPT还可以实现在线问诊、模仿莎士比亚风格写作、涉及游戏等功能,其搜索能力和实用性甚至超越搜索引擎谷歌。然而,尽管在搜索中引用模型能够提升搜索的准确性和交互性,但其成本较为高昂,免费试用期过后,从性价比角度考虑,ChatGPT在短时间内替代谷歌难度较大。

ChatGPT通过创建迭代反馈的闭环,有利于其商业策略的实现。这次ChatGPT以免费不限量的方式向公众开放,在使用过程中,用户可以提供反馈,而这些反馈是对OpenAI最有价值的信息。对于AI发展来说,工程的重要性实际上大于科学,创建一个迭代反馈的闭环至关重要。OpenAI很注重商业应用,GPT-3已经拥有大量客户。这些客户跟OpenAI的反馈互动也是推动进步的关键一环。我们认为,尽管相比GPT-3,ChatGPT在模型表现方面形成突破,但目前可能仍需要进一步的调试和训练,从而达到商业使用的标准。OpenAI目前采用免费使用的方式,能够以低成本的方式大量获得真实样本,同时扩大ChatGPT的影响力,ChatGPT的商业潜力未来可期。

ChatGPT未来可能通过与WebGPT结合的方式,进一步提升其搜索能力。在MIT Technology Review对OpenAI科学家的采访中,他们提到了后续有可能将ChatGPT和WebGPT的能力结合起来。可以设想,ChatGPT+WebGPT可以对信息进行实时更新,并且对于事实真假的判断将更为准确。我们认为,ChatGPT具有强大的工程化、迭代反馈的能力,并且作为AI能够跟人类目标统一。然而,ChatGPT作为单一的模型本身具有局限性,未来通过与其他现有模型的有效结合,将有望产生协同效应。

推荐关注标的:商汤、云从科技、格灵深瞳。

声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
云从科技
S
格灵深瞳
工分
17.06
转发
收藏
投诉
复制链接
分享到微信
有用 6
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(4)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2022-12-05 23:47
    谢谢分享
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    2022-12-05 23:32
    谢谢分享
    1
    0
    打赏
    回复
    投诉
  • 宁静致远0307
    自学成才的韭菜种子
    只看TA
    2022-12-06 11:09
    谢谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2022-12-05 23:31
    请问贵公司有没有AIGC技术储备?哪些项目是运用AIGC技术开发的?另外公司的数字人是运用AIGC技术开发的吗?谢谢!

    董秘回复
    凡拓数创:您好,公司对AIGC技术的运用主要在语音交互领域,公司也将继续关注市场相关趋势及技术发展,综合考虑市场机遇围绕主营业务进行布局。感谢您的关注。
    0
    3
    打赏
    回复
    投诉
  • 1
前往