2025-01-26 科技 0
高性能GPU短缺成为中国公司生成式AI发展的主要障碍。微软投资的OpenAI推出ChatGPT后,显示了AI算力、AI大模型和生成式AI在文本领域的实际应用潜力。ChatGPT是基于OpenAI自主研发的GPT-3.5语言大模型,这个大模型包含近1800亿个参数。
根据TrendForce测算,处理1800亿参数的GPT-3.5模型需要2万枚GPU芯片,而商业化所需可能超过3万枚。目前国内云厂商拥有的GPU主要是英伟达中低性能产品(如A10),拥有1万枚英伟达A100芯片的企业不超过一家。这意味着国内能在短期内布局类似ChatGPT项目的选手十分有限。
然而,包括阿里、百度等中国企业宣布将研发类似ChatGPT产品,或将投入生成式AI研发。在国内,虽然有云厂商具备条件下场,但这需要长期高成本投入。除了硬件采购成本外,还包括数据采集、人工标注、模型训练等软性成本,这些都难以简单计算。
多位云计算技术人士认为,高性能GPU芯片短缺以及硬件采购成本、高运营成本为当前市场带来了挑战。此外,由于美国政府限制销售英伟达A100和H100芯片至中国市场,加之现有储备存货剩余使用寿命约为4年至6年,对于中国企业来说,要实现类似ChatGPT的大规模应用显得尤为困难。
尽管如此,有望通过英伟达提供的一些替代品,如A800芯片来应对这一问题。但即便是这种“阉割版”的A800,其价格也远超原价,并且在中国市场严重缺货。此外,即使能够获取这些替代品,也无法完全弥补与真正高端GPU相比的大幅性能差距,因此直接影响到机器人的“智商”。
总而言之,大型服务器厂商的人士表示,即使乐观估计,最大的企业也不超过5万枚GPUs,而且以中低端数据中心芯片为主。这意味着如果想要实现一个像样的生成式AI系统,就必须面对极其昂贵和稀缺的地缘政治因素,同时还要考虑巨额资金储备和战略定力的问题。