反复强调解决Open AI CEO阿尔特曼面临的对齐难题不仅依赖中国人才的贡献还需要借助移动支付等现

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入对话。在AI安全与对齐论坛上，张宏江向阿尔特曼提出了一个问题：随着通用人工智能的迅速发展，各国正在努力达成共识，并寻求全球合作。对于人工智能安全的关键因素和挑战，该如何应对？

阿尔特曼表示，对于AI的安全性研究是非常重要的，不仅要考虑模型本身，还要考虑整个系统。“我们可以在AI模型上构建安全分类器和检测器，以监控它们是否符合使用策略，并不断迭代。”他强调，这是一个既涉及技术也涉及非技术方面的问题，要让AI既安全又有益，还需要理解不同国家用户偏好的不同背景。

人工智能系统对齐问题是当前行业最热门的话题之一。建立一个强大的AGI系统，如果它不能按人类意愿行事或者目标与人类目标冲突，将会导致严重后果。因此，在训练这些系统时，我们必须确保它们按照人类意图“对齐”——通过指导、调教甚至输出调整，使其拥有新的能力，同时避免误用。

为了促进国际合作，阿尔特曼透露，他们正在致力于制定一套国际标准来开发更加安全的人工智能系统，并且在全球范围内构建反映各种价值观和偏好的数据库。“人们可以通过这些数据库调整他们的人工智能，也可以共同分享关于人工智能安全的研究成果。”