OpenAI将在11月6日的首次开发者大会上发布重要更新,将推出Stateful API,理论上可将大模型应用的开销削减为原来的二十分之一。
我们推测Stateful API的实现方式如下:类似KV缓存的机制,缓存用户对话的历史记录,降低计算规模。
但是其动机是什么?
纵观欧美市场,面向大企业客户的ChatGPT Enterprise已经为OpenAI取得了相当的竞争优势,并且鲜有匹敌者。因此,该市场将成为OpenAI的主要Cash Cow。
在这种情况下,考虑到ChatGPT Enterprise提供的无限GPT-4访问和月租费+阶梯计价方式,Stateful API的主要作用是帮助OpenAI优化客户的运营成本。
其次,在中小企业市场,除了笼络开发者,Stateful API的目的则带有“挤压”初创公司的意图。
当然,以上的内容还只是推测。事情是否真如预料发展,11月6日OpenAI的开发者大会将揭晓谜底。(以上内容为转载)
然后游戏方向持续性继续看好,周末有降准和房地产的预期,ai应用方向也可以埋伏一下,毕竟是第一次会议,可能会有超预期的内容!
美国陆军授予Palantir(PLTR.US)一份价值高达2.5亿美元的合同,以提高人工智能(AI)和机器学习(ML)的能力。根据这项为期三年的合同,Palantir将为作战司令部、武装部队、情报界和特种部队测试、使用和扩展人工智能和机器学习能力提供额外的支持,昨日业绩超预期大涨20%,随着技术的慢慢落地,不少的ai应用会慢慢的出业绩!