登录注册
openai闭门会纪要
戈壁淘金
只买龙头的老司机
2023-06-08 13:11:42

最新观点汇报:
1、openai 从闭门会纪要看出,公司致力于gpt4 “降本 加速”,这个月全球开放gpt4 api,应该会有一次加速降本,幅度参考gpt3.5那一次 ,它api降了90%,最近一次针对gpt  api 具体数据没有完全确定,只能参考 gpt3.5 蒸馏降本90% 和google palm2 的api成本反推(google palm2的 gpt4 3月公告的6美分 的20%。路径怎么实现?蒸馏!简单说就是大模型教小模型怎么做一个好模型。老师教学生,参数可以减少70%以上,但是精度最大化保留,能保留92%以上。这是一个方法!还有一个办法,优化工程,提升算力利用率。两者结合就可以大幅降低api公司甲方的成本!没有减少芯片量,只是缩小了模型!

2、从闭门会议纪要看,gpu交付速度远低于openai的需求,极度需求!!英伟达8.25号的财报我们预期还会超预期!此外meta近期要开自己的大模型,闭源付费的那种,收费方式和gpt3.5类似。商用大模型越来越多,应用b端和c端也会越来越多,未来对gpu asic推理芯片的需求只会越来越大!最简单的比喻,一起就一家卖雨伞的,卖300一把,接下来三家卖雨伞的,一把40。那民众买雨伞的人是不是越来越多?供应雨伞伞股的公司是不是卖越来越多?

熊莉

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
万兴科技
工分
12.14
转发
收藏
投诉
复制链接
分享到微信
有用 11
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(3)
只看楼主
热度排序
最新发布
最新互动
  • 1
前往