反复强调科技节口号中蕴含的智慧与创新与阿尔特曼CEO所述对齐难题的解决方案紧密相连中国人才的重要性在

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和挑战。对于这些问题，阿尔特曼提出了他的看法。

首先，阿尔特曼认为，对于人工智能的安全研究至关重要。这不仅仅是为了确保模型本身的安全性，还要考虑整个系统的安全性。他指出，可以通过在模型上运行的安全分类器和检测器来监控是否符合使用策略，并不断迭代改进。

然而，阿尔特曼也强调，这是一个涉及多个方面的问题，不仅仅是技术问题。为了让人工智能既能保持安全又有益，我们需要理解不同国家用户偏好的不同背景。“中国拥有世界上最优秀的人工智能人才。”他说，“解决当前面临的人工智能系统‘对齐’难题需要来自世界各地最优秀头脑。我希望中国的人工智能研究人员能够做出巨大的贡献。”

“对齐”问题目前是人工智能领域的热点之一，它指的是如何建立一个强大的AGI系统，使其按照人类意愿行事，而不会出现目标冲突的情况。如果没有适当的人类指导和反馈机制，这种情况可能会变得非常危险。

为了促进国际合作并更好地应对这一挑战，阿尔特曼透露，他正在推动建立一套国际标准来开发更加安全的人工智能系统。此外，他还提到，他们正在构建一个数据库，该数据库将反映全球价值观和偏好。这样，一些可以通过这些数据库调整AI系统，以确保它们符合人类社会共同认可的一致价值观。这将有助于共享AI领域的研究成果，以及提高整体AI应用水平。