科技部官方网站首页反复强调解决Open AI CEO阿尔特曼提出的对齐难题确实离不开中国的才俊

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。

在讨论通用人工智能（AGI）的快速发展和全球合作的必要性时，张宏江提出了一个问题：在推动AGI发展的同时，我们应该如何确保人工智能的安全？面临哪些关键因素和挑战？

阿尔特曼表示，首要的是加强人工智能安全技术研究。除了模型本身之外，还需关注整个系统的安全性。他提出可以构建在AI模型上的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代优化。

然而，阿尔特曼也指出，这个问题不是纯粹技术性的问题，而是需要跨文化理解不同国家用户偏好的复杂议题。“中国拥有一批世界级的人工智能人才。”他说，“解决人工智能系统对齐难题需要来自世界各地最优秀头脑。我真诚希望中国的人工智能研究人员能够做出巨大的贡献。”

对于目前行业热点——人工智能系统对齐问题（alignment problems），阿尔特曼认为这是建立强大且人类意愿一致的AGI系统至关重要的问题。为了避免潜在危险，如机器不按人类意愿行动或目标冲突，他主张通过训练、指导等方式让机器模型反映人类意图，并不断解锁新能力，同时防止误用。

为了促进国际合作共建开放的人工智能环境，正在筹备制定国际标准以保证AI开发过程中的安全，以及建设包含全球价值观和偏好的数据库。这将使得人们可以根据这些数据库调整AI系统，也能共同分享相关领域的研究成果。