2025-03-17 科技 0
智东西（公众号：zhidxcom）
作者 心缘
编辑 漠影
智东西6月1日报道，上午，在聚集了200余位国内外顶尖AI专家的2021北京智源大会开幕式上，北京智源人工智能研究院发布全球最大预训练模型——“悟道2.0”巨型模型，其参数量高达175万亿！
北京智源大会是由智源研究院主办的年度国际性AI高端学术交流会议，定位于“内行的AI会议”，旨在成为北京乃至中国AI发展的学术名片。
此次重磅发布的“悟道2.0”巨型模型，是中国首个全球最大万亿级别模型，比有1.6万亿参数的谷歌最大模型Switch Transformer，足足多了1500亿个参数；是OpenAI GPT-3模型参数量的10倍。
此外，“悟道2.0”还取得多项世界级创新突破，在预训练模型架构、微调算法、⾼效预训练框架等方面实现了原始理论创新，并在世界公认的AI能力排名榜单上，取得9项能力领先地位。
尤其值得一提的是，这个由智源副院长、清华大学教授唐杰率领中国科学家团队联合攻关的大型项目，为打破国外技术瓶颈和硬件限制而奋斗不息。它首次100%基于国产超算平台打造，并运用中国技术，这一成就被视为科技界的一个重大转折点。
"悟道"智能模型：大规模、大平台、大生态
本次发布不仅标志着一个新的里程碑，也展示了国内科研机构在人工智能领域的地位和实力。与此同时，它还将推动更多国家参与到这一前沿技术领域，从而促进国际合作与交流。
为什么会出现在这样一个重要时刻？"悟道"攻关团队由著名科研人员领导，他们致力于开发能够处理复杂任务并达到国际标准的人工智能系统。此前，由于技术上的限制，大规模的人工智能系统普遍存在可扩展性问题，而这次新型机器学习算法成功克服了这些障碍，使得更强大的计算机程序成为可能。
FastMoE—开创性的混合专家网络技术
通过引入Mixture of Experts（MoE）技术，该团队解决了一直困扰行业的大问题，即如何有效地处理和管理大量数据以实现更好的性能。这项工作不仅帮助我们迈向更强大的计算能力，而且也为未来的应用提供了广阔空间。
除了这些关键突破之外，“悟道2.0”的推出还包括全链路高效训练框架CPM-2，该框架采用了一系列创新的方法来优化编码、建模和微调过程，从而显著提高速度和性能。此外，它还包含世界最大的中文自然语言能力评测数据集，这对于测试和改进任何中文语言相关的人工智能系统至关重要。
未来几天内，本次大会将吸引来自世界各地200余位顶尖专家的分享，他们将讨论最新的人工智能趋势以及该领域面临的一些挑战。随着科技界对人工智能持续投资，我们可以期待看到更多令人惊叹的成果。而关于本次大会及其所带来的影响，我们将继续提供详细报道，请留意后续更新。
