2024-12-26 科技 0
在机器学习领域，一款名为「盘古」的新型中文预训练语言模型最近引起了业界的广泛关注。该模型由华为云和循环智能联合开发，是首个拥有1100亿密集参数的大型中文模型，其研发团队在近半年时间内使用40TB行业文本数据和超过400万小时行业语音数据进行了训练。
「盘古」以其强大的少样本学习能力、有效的微调方式以及对领域知识融合能力而著称。这意味着它不仅可以处理复杂商用场景，还能针对特定行业提供高效精确的服务。相比之下，尽管GPT-3是一款学术界的重要成就，但在实际应用中仍存在诸多挑战，如低效率、不足够灵活以及缺乏针对特定领域的问题解决能力。
为了克服这些问题，循环智能采用了一种元学习技术来实现任务间迁移，从而提高了少样本学习效果。此外，该团队还将P-tuning等最新技术融入到微调框架中，以进一步提升性能。在测试中，“盘古”表现出了显著优势，即使是在极端少样本的情况下，它也能够实现类似于其他更高参数量模型（如BERT）所需样本量的一半。
此外，“盘古”通过将通用AI能力与专业知识结合起来，为实时辅助场景提供了更加精确和有用的服务。例如，在销售推送方面，它可以实时向销售人员推荐产品并解释要点，这对于提升销售效率至关重要。
总结来说，“盘古”是目前市场上最强大的中文大型语言模型之一，它不仅克服了GPT-3落地过程中的难题，而且还特别针对企业级应用进行设计。这使得“盘古”成为一种理想工具，不仅用于日常沟通，还可用于撰写论文等学术任务，使其成为一个多功能且非常有用的工具。
