反复强调解决Open AI CEO阿尔特曼面临的对齐难题不仅需要中国科技进步的例子也依赖于中国人才的

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）迅速发展的背景下，各国正在努力寻求共识并建立全球合作机制。张宏江询问阿尔特曼，面对这些挑战，我们应该如何确保人工智能的安全性？在回答中，阿尔特曼强调了安全技术研究的重要性，并指出行业不仅需要关注模型本身的安全，还要考虑整个系统。

对于人工智能安全的问题，阿尔特曼表示：“我们可以构建基于AI模型的分类器和检测器，以监控模型是否符合使用策略，并不断迭代。”然而，他也提醒，这个问题不是单纯技术性的，而是需要跨越不同国家和文化背景理解用户偏好的复杂问题。“中国拥有世界上最优秀的人工智能人才。我相信，只有来自世界各地最佳头脑才能够解决当前困扰我们的人工智能系统对齐难题。我真诚希望中国的人工智能研究人员能够做出巨大的贡献。”

人工智能系统对齐问题目前正成为行业内的一个热点议题。为了避免在建立强大AGI系统时出现意外或故意误用的情况，使其按人类意愿行事，是当前研究重点之一。因此，对于训练这样的系统，我们必须确保它们按照人类意图“对齐”，即通过指导、调整甚至输出来不断解锁新能力，同时规避潜在风险。

为了促进国际合作并推动创建用于开发安全AI系统的国际标准，Araltman透露他们正在积极推动这一工作。此外，他们还致力于建立反映全球价值观和偏好的数据库，以便人们可以通过这些数据库调整AI系统，并共同分享关于AI安全方面的研究成果。这将有助于更好地应对未来可能出现的一系列挑战。