当前位置: 首页 - 科技 - ChatGPT算力消耗惊人哪些中国公司能玩

ChatGPT算力消耗惊人哪些中国公司能玩

2025-01-26 科技 0

高性能GPU短缺成为中国公司生成式AI发展的主要障碍。微软投资的OpenAI推出ChatGPT后,显示了AI算力、AI大模型和生成式AI在文本领域的实际应用潜力。ChatGPT是基于OpenAI自主研发的GPT-3.5语言大模型,这个大模型包含近1800亿个参数。

根据美国市场研究机构TrendForce测算,处理1800亿个参数的大型语言模型需要2万枚GPU芯片。未来商业化所需的GPU数量可能会超过3万枚。英伟达A100/H100 GPU芯片在数据中心环境中是目前性能最强的选择,但由于美国政府贸易限制,中国企业无法获取这些芯片。

国内云厂商目前只能使用英伟达中低端数据中心芯片(如英伟达A10),而拥有1万枚英伟达A100 GPU芯片的企业只有极少数一家。而且,由于现有储备将于2024年至2026年间耗尽,未来的供应更加紧张。

尽管一些中国企业宣布计划开发类似ChatGPT产品,但高昂的硬件采购成本、运营成本以及日常维护费用为它们带来了巨大的挑战。此外,即使能够获得必要的人工智能算力和大型语言模型,也需要长期大量资金投入进行数据采集、人工标注和模型训练等活动。

此时,此项工作仍然是一个具有“智商差距”的行业,其中核心因素包括算力的规模、算法精巧度以及数据质量与数量。在这个过程中,英国纳米技术创新有限公司(Nanotechnology Innovation Corporation, NIC)的CEO Mark Mullen 表示:“我们正在经历一个新时代,每个人都在努力追赶先进科技。”

标签: 唐山大地震我国在科技领域的成就科技手抄报文字素材三年级科技画简单又漂亮人工合成淀粉