科技资讯网站反复强调解决Open AI CEO阿尔特曼心头对齐难题的关键在于中国人才的贡献

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院的张宏江理事长与Open AI首席执行官山姆·阿尔特曼进行了深入交流。

在讨论通用人工智能迅猛发展并引发全球合作共识时，张宏江向阿尔特曼提出了一个问题：面对这些快速变化，我们应该如何确保人工智能的安全性？他询问了哪些关键因素和挑战需要被关注？

阿尔特曼表示，对于人工智能的安全性来说，最重要的是技术研究。除了模型本身的安全，还要考虑整个系统的防护层。“我们可以构建能够监控模型行为并适应策略变化的人工智能分类器和检测器。”

然而，他也强调，这个问题不仅仅是技术上的挑战。为了让人工智能既可靠又有益，还需要理解不同国家用户偏好的多样性。“中国拥有世界上最优秀的人才团队。如果想要解决将AGI系统“对齐”到人类意愿的问题，就必须吸引来自世界各地顶尖头脑。我真诚希望中国在这方面能做出巨大贡献。”

当前，人工智能系统“对齐”问题成为了行业内最热门的话题之一。这涉及到建立强大的AGI系统，如果它无法按人类指令行事或者其目标与人类冲突，那么结果可能极为危险。因此，要使AGI模型按人类意图运行，就需要不断调整、指导甚至输出，以解锁新的能力，并避免误用。

为了推动国际合作，阿尔特曼透露他们正在设立国际标准来开发更安全的人工智能，并创建包含全球价值观和偏好的数据库。他认为，“人们可以通过这些数据库调整AI，也可以共同分享关于AI安全性的研究成果。”