2025-02-23 智能 0
周鸿祎指出，中国在大模型领域的发展仍需改进。目前公有大模型在企业级应用中存在四个主要不足：缺乏行业深度、数据安全隐患、无法保证内容可信性、以及训练和部署成本过高。这些问题限制了其在政府、城市和行业等场景中的广泛应用。
首先，大模型面临数据安全挑战。企业往往不愿意将核心知识与能力透露给公有大模型，因为这可能导致数据泄露。此外，大模型本身具有生成式AI的特点，即它会创造虚假信息，这对于需要真实内容的企业来说是一个重大风险。
其次，周鸿祎强调了安全原则的大重要性。他认为，要构建可靠的人工智能系统，必须从网络安全到算法安全再到数据安全全面考虑，并采取措施防范潜在威胁。
此外，还有一些其他方面需要改进，如通过向量数据库、企业搜索和外部知识库对输出内容进行校正，以确保准确性。此外，对于大型项目而言，大模型应该被视为工具，而不是决策者。这意味着它们应该被设计成助手或副驾驶，而不是主导者。
为了实现这一目标，周鸿祎建议采用监控审计机制来控制大型系统，使其保持独立，并且能够提供更多切入点，比如信息分析与决策支持，以及企业知识管理等。在使用过程中，也应坚持以人为本，不仅要易用，而且要让所有员工都能使用这些工具，从而促进AI普惠政策的实施。
他还提到了数字人的重要性作为未来大规模应用的大模式入口。数字人可以解决一些关于人类难以完成的任务，同时也能提供更加个人化服务，为用户带来更好的体验。在北京市，已经开发了一些基于山海大的门诊病历生成系统示范应用，这项技术预计可以提高医生电子病历录入效率超过40%并节省患者问诊时间超过30%。
最后，他指出虽然初创公司面临资金分散的问题，但巨头们拥有大量资源，有望成为市场领导者。而政府正在推动通用AI产业创新伙伴计划，将63家企业纳入第二批成员名单，其中包括阿里巴巴、中电数据等知名公司。此举旨在加速北京成为全球影响力的AI创新中心，并推动通用人工智能产业健康快速发展。
