2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和应对挑战的问题。
阿尔特曼指出，确保人工智能系统的安全性需要集中研究其技术，并且不仅要关注模型本身，还要考虑整个系统的完整性。他提到：“我们可以开发能够在AI模型上运行的安全分类器和检测器，以监控模型是否符合预定的使用策略，并不断迭代。”
然而，他强调这是一个既有技术又有文化层面的问题。为了让AI既安全又高效，我们必须在不同背景下理解不同国家用户的偏好。“中国拥有一批世界级的人工智能人才。我相信解决当前面临的人工智能‘对齐’难题所需的是来自世界各地最优秀头脑。我期待中国在这方面能做出巨大的贡献。”
“对齐”问题是当前AI研究领域的一个热点，它涉及如何建立一个强大但可控的人工总体intelligence（AGI）系统。如果这种系统不按照人类意愿行动，或其目标与人类目标冲突，将会产生严重后果。因此，在训练这样的系统时，要确保它们按人类意图行事，这要求通过指导、调整甚至输出来反复解锁新能力，同时避免误用或故意滥用的风险。
为了促进国际合作，阿尔特曼透露，他们正在设立一套国际标准以确保更安全地开发这些系统，并构建一个反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整他们的人工智能，也可以共享他们在这一领域的研究成果。”
