2025-02-23 智能 0
周鸿祎指出，中国在大模型领域的发展仍需改进。目前公有大模型在企业级应用中存在四个主要不足：缺乏行业深度、数据安全隐患、无法保证内容可信性、以及训练和部署成本过高。这些问题限制了其在政府、城市和行业等场景中的广泛应用。
首先，大模型面临数据安全挑战。企业往往不愿意将核心知识与能力透露给公有大模型，因为这可能导致数据泄露。此外，大模型本身具有生成式AI的特点，即它会创造虚假信息，这对于需要真实内容的企业来说是一个重大风险。
其次，周鸿祎强调了安全原则的大重要性。他认为，要构建可靠的人工智能系统，必须从网络安全到算法安全再到数据安全全面考虑，并采取措施防范潜在威胁。
此外，还有一些可信原则需要遵守，以确保输出内容的准确性。这可以通过向量数据库和企业搜索进行校正来实现，从而解决“幻觉”问题并保证知识库及时更新。
最后，周鸿祎提出了可控原则，他建议将大模型视为辅助工具，而不是决策中心。在实际应用中，一开始应该限制对大模型开放API或插件模式，以便更好地控制其行为，并采用监控审计机制来保持它们在合适范围内工作。
周鸿祎还强调了企业如何有效利用大模型。他建议首先发挥通用能力，然后根据具体需求进行垂直化开发，比如信息分析和决策支持，以及办公协作和智能客服等场景。
他还提到了数字人作为未来企业级大模式发展的一个重要方向，并展示了定制化数字人案例，如北京市训练的数字人“北京客服问不倒”，用于解决政企领域的问题。此外，有公司正在研发支持输出代码或写演讲稿等功能的大型AI算法舱产品，如中国电信集团的大规模AI服务商TeleChat，其使用国内中文数据进行训练，并且基于天翼云平台进行操作，使得效率提升至47%以上，同时减少成本消耗。
总之，大型AI算力是竞争力的关键要素，它们吸引着大量资金投资。但创业公司面临着巨大的挑战，他们需要找到有效盈利路径。而政府政策提供了一定的支撑，比如北京市推出的通用人工智能产业创新伙伴计划，该计划已经吸引超过80家公司加入，为推动这一技术领域的发展提供了强有力的支持。
