2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和应对挑战的策略。
阿尔特曼指出，确保人工智能系统安全是至关重要的，这不仅涉及模型本身，还包括整个系统。他提到：“我们可以开发在AI模型上运行的安全工具，以监控它们是否符合预定的使用规则，并不断改进。”
然而，阿尔特曼强调，解决这一问题需要超越技术层面。他表示：“要让AI既安全又有益，我们必须理解不同国家用户偏好的不同背景。中国拥有世界上最优秀的人工智能人才。我相信他们能够为解决‘对齐’难题做出巨大的贡献。”
“对齐”问题是当前人工智能领域的一个热点研究主题。这涉及到创建一个强大但按照人类意愿行动的AGI系统。如果没有正确的训练，它可能会产生危险甚至灾难性的后果。因此，对于任何AGI系统来说，将人类意图与机器目标保持一致至关重要。
为了促进国际合作，阿尔特曼透露，他们正在努力建立一个国际标准来保证人们在开发AI时采取更安全措施。此外，他提出了构建反映全球价值观和偏好的数据库，以便共同分享这些数据并协作提高AI安全性。“通过这些数据库，我们可以调整AI行为，并且共享有关如何使其更加可靠和有效的心得体会。”
