2025-02-23 智能 0
周鸿祎指出，中国在大模型领域的发展仍需改进。目前公有大模型在企业级应用中存在四个主要问题：缺乏行业深度、数据安全隐患、无法保证内容可信性、以及训练和部署成本过高。这些挑战阻碍了大模型的广泛应用。
首先，大模型面临数据安全风险。大型企业通常不会将其核心知识与外部共享，而公有大模型可能会泄露敏感信息。其次，公有大模型生成的内容不可靠，它们能够创造虚假信息，而且在使用时可能会滥用算法功能。这对医疗保健等关键领域来说是危险的，因为它们依赖于准确无误的建议。
此外，大规模训练一个大型语言处理器需要极大的算力和资源，这使得成本难以控制。相比之下，垂直市场可以通过专注于特定任务来节省资源并实现更低的运行成本。此外，大型语言处理器还需要遵守严格的人工智能安全标准，以防止其被用于恶意目的，如欺诈或网络攻击。
为了克服这些挑战，周鸿祎提出了三个原则：安全性、可信性和可控性。他认为，大型语言处理器应该被设计成辅助工具，而不是决策中心，并且必须经过监控和审计，以确保它们按照预期进行操作。在实际应用中，大型语言处理器应该被用作通用的能力增强者，而不是尝试执行所有任务。
总体而言，对于如何有效利用当前的大型语言处理技术，周鸿祎提出了一些具体建议。他强调了小步骤、大范围（incremental but broad）的方法，即采用“助手”模式，让用户接触到他们熟悉的界面，同时逐渐引入新技术，从而减少抵触心理。此外，他还鼓励企业投资数字人作为最终用户友好的前端解决方案，使AI更加普遍化并易于使用。
最后，在北京市举办的一次会议上，有多家公司展示了他们正在开发的大型语言处理产品，其中包括360智脑、中电信集团、大众汽车等。这些产品旨在解决特定的业务问题，如客户服务优化、城市招商推广等，并展示了中国在这一领域取得的进展。但是，由于竞争激烈，一些初创公司发现自己面临着盈利困难，因此需要找到新的商业模式来支持自己的发展。
