2025-02-23 智能 0
周鸿祎指出，中国在大模型领域的发展仍需改进。目前公有大模型在企业级应用中存在四个主要不足：缺乏行业深度、数据安全隐患、无法保证内容可信性、以及训练和部署成本过高。这些问题限制了其在政府、城市和行业等场景中的广泛应用。
首先，大模型面临数据安全挑战。企业往往不愿意将核心知识与能力透露给公有大模型，因为这可能导致数据泄露。此外，大模型本身具有生成式AI的特点，即便是正经地胡说八道，也难以保证内容的准确性和可靠性。在医疗领域，使用大模型生成药方时，这种风险尤为严重。
其次，公有大模型无法实现成本控制。大型商业化项目需要巨额资金来进行训练，每次训练都耗费数十亿美元。这使得企业能够更灵活地定制垂直市场所需的大型但不全面的大型机器学习系统，而不是追求全面而庞大的系统。
为了克服这些挑战，周鸿祎提出了三个原则：安全、可信和可控。他认为，在构建企业级大规模机器学习解决方案时，要坚持以下原则：
安全：确保网络安全、数据安全和算法安全，以防止被利用用于恶意目的。
可信：通过校正对话输出，使其符合实际情况，并且能及时更新信息。
可控：监控审计手段对待新兴技术，将它们“关入笼子”，并允许它们作为辅助工具而非决策者。
他还强调了人工智能工具应该是员工普惠性的，并且易于使用，以避免引起抵触情绪。此外，他认为数字人将成为重要的入口点，为解决现实世界的问题提供支持。
随着技术的不断发展，我们可以预见到未来的人工智能将更加精细化、高效率，同时也更加依赖于人类专家来指导它做出决定。这一过程需要时间，但最终目标是创造一个既能处理复杂任务又能保持用户参与感的人工智能环境。
