集微网消息,据华尔街日报报道,用于AI的图形处理器(GPU)几乎全部由英伟达制造,但随着ChatGPT的爆发,对它们的需求激增远远超过了供应。
这种情况限制了亚马逊和微软等云服务提供商向ChatGPT等客户提供的处理能力,AI开发人员需要服务器能力来开发和操作日益复杂的模型,并帮助其他公司构建AI服务。
OpenAI首席执行官Sam Altman表示,由于处理器瓶颈,如果使用ChatGPT的人少一些会更好。
对于训练能够生成原始文本和分析的大型人工智能模型的公司来说,获得数万个先进的GPU至关重要。英伟达的高级GPU可以同时进行大量计算,这对于AI工作至关重要。
瑞银分析师估计,较早版本的ChatGPT需要大约10000个GPU,马斯克估计更新的版本需要的GPU是原来的的三到五倍。
英伟达最近表示,它正在扩大供应以满足不断增长的需求。英伟达CEO黄仁勋表示,该公司已经提高了H100的产量,这是其用于生成式AI的新型旗舰芯片。
芯片成本各不相同,但英伟达的高级人工智能芯片被一些零售商以大约33000美元的价格出售,尽管在高需求下,它们可以在二级市场上获得更高的价格。
根据人工智能投资者和初创公司的说法,初创公司正在缩小他们的人工智能模型,以提高效率,购买自己的带有相关GPU的服务器,或者转向甲骨文等不太热门的云提供商,直到短缺得到解决。
OpenAI的一位发言人表示:“业界对GPU的需求非常强劲。”许多AI创始人预计短缺至少会持续到明年。
一些公司正在封锁云容量,因为担心他们以后无法访问它们。
创始人和投资者表示,能够获得计算能力的公司仍需等待数周才能使用英伟达的GPU。“即使你已经预先支付了费用,这并不意味着GPU会在接下来的一天或一周内到达你的手中,你只需要等着。”Perplexity AI的CEO阿拉文德·斯里尼瓦斯(Aravind Srinivas)如是说,该公司开发了一款人工智能驱动的对话式搜索工具。
服务器制造商及其直接客户表示,他们需要等待六个月以上才能获得英伟达最新的GPU。
最大的服务器制造商之一AMD的CEO表示,该公司GPU的延期交货达到了有史以来的最高水平,该公司正在急于增加生产能力。
目前国内自研GPU的领军企业主要是景嘉微、壁仞科技、芯动科技等,其中成立最早的是景嘉微,景嘉微也是我国自主知识架构GPU的顶尖水平,其产品则主要应用于工业、人工智能、云计算、军用工业等领域,至少是保证了国内相 关产业即使被封锁也依然能够正常提供服务。
在景嘉微之外,国内的主要GPU企业还有芯瞳半导体、壁仞科技、摩尔线程、沐曦集成电路、瀚博半导体、登临科技 、天数智芯、芯动科技、龙芯中科等多家企业,面向的领域基本涵盖了目前GPU应用的主要市场,如人工智能、AI计 算、自动驾驶、深度学习等。
壁仞科技今年8在上海正式发布其首款通用GPU芯片产品——BR100月算力打破全球纪录。2021年3月,壁仞科技宣布 完成B轮融资,由中国平安、新世界集团、碧桂园创投联合领投,源码资本、国盛集团国改基金等机构跟投。截至目 前,其总融资额已超50亿元人民币。
龙芯中科2020年公司成立GPU突击队,加快GPU研发设计,自研统一渲染架构。
通富微电拥有高端CPU、GPU量产封测平台,承接国内外客户高端CPU、GPU的封测业务。