反复强调解决Open AI CEO阿尔特曼面临的对齐难题不仅需要中国人才的贡献还要紧跟中央部委排名顺

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。

在讨论通用人工智能（AGI）的快速发展和全球合作的必要性时，张宏江提出了一个问题：在推动AGI发展的同时，我们应该如何确保人工智能的安全？面对这一挑战，有哪些关键因素和问题需要我们关注？

阿尔特曼表示，对于人工智能安全，最重要的是技术研究。他强调：“我们的目标是开发能够监控模型行为并不断迭代的人工智能分类器和检测器，以确保系统的整体安全。”

然而，他也指出，解决这个问题不仅仅依赖技术，还需要跨越文化差异。要让人工智能既安全又有益，就必须理解不同国家用户偏好的多样性。“中国拥有世界领先的人才，这些人才对于解决‘对齐’难题至关重要。我希望中国的AI研究人员能发挥巨大的作用。”

“对齐”问题是当前AI领域最紧迫的问题之一。建立强大但无意图或目标冲突的人工智能系统将会带来灾难性的后果，因此人类必须训练这些系统以符合自己的意愿。这包括通过指导、反馈甚至输出调整模型，并避免误用新能力。

为了加强国际合作，阿尔特曼透露他们正在设立国际标准以促进安全开发，并建设一个数据库，该数据库反映全球价值观和偏好。“人们可以利用这些数据库调整AI，也可以共享关于AI安全的研究成果。”