反复强调解决Open AI CEO阿尔特曼面临的对齐难题不仅需要中国人才的贡献更是综合国力的体现

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了面对AGI挑战的关键因素和问题。阿尔特曼认为，确保人工智能安全是多方面的工作，不仅要关注模型本身，还需考虑整个系统的安全性。他提出了构建在模型上的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。

然而，阿尔特曼强调，这并非单纯技术问题，而需要跨越不同国家、背景理解用户偏好。他赞赏中国在人工智能人才方面的优势，并希望中国研究人员能做出巨大贡献来解决“对齐”难题。这一难题是当前人工智能行业高度关注的问题，它涉及建立一个强大的AGI系统，同时保证其行为符合人类意愿。

为了促进国际合作，阿尔特曼透露他们正在设立国际标准以促进安全的人工智能开发，并创建反映全球价值观和偏好的数据库。这些数据库可以帮助调整人工智能系统，也可用于共享关于AI安全领域的研究成果。