2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了面对AGI挑战的关键因素和问题。对于这些问题，阿尔特曼指出解决之道在于加强人工智能安全技术研究，不仅要确保模型本身的安全性，还要考虑整个系统的完整性。他提到：“我们可以开发能够在AI模型上运行的安全分类器和检测器，以监控模型是否符合预设策略，并不断优化。”然而，阿尔特曼也强调，这个问题不仅是技术上的挑战，更需要跨文化理解不同国家用户偏好的差异。“中国拥有世界顶尖的人工智能人才。想要克服人工智能系统‘对齐’难题，就必须汇集来自世界各地最优秀头脑。我希望中国的人工智能研究人员能为此贡献巨大力量。”“对齐”问题是当前AI行业关注的话题，它涉及如何建立一个既强大又不会偏离人类意愿行事的AGI系统。如果没有适当的人类指导，这样的系统可能会造成灾难性的后果，因此人类必须通过训练、指导等方式来确保其目标与人类价值观保持一致。
为了促进国际间更紧密的合作，阿尔特曼透露他们正在努力建立一套国际标准来保证人工智能系统的安全开发，同时建设一个反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整或共享他们的人工智能项目，以及分享关于该领域最新研究成果。”
