AI开源创始人阿尔特曼反复强调解决对齐难题的关键在于吸引中国科技人才正如1 6年级一等奖的学生通过不

北京日报客户端记者李明

6月10日，2023年在京举办的智源大会上，张宏江院士与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。张宏江提出了一个问题：随着通用人工智能（AGI）的迅速发展，各国正在努力寻求共识，并构建全球合作机制。面对这一挑战，我们应该如何确保人工智能的安全性？以及哪些因素是关键？

山姆·阿尔特曼认为，解决这一问题需要我们集中精力于人工智能技术的安全研究。他指出，不仅要关注模型本身的安全，还要考虑整个系统的安全性。“我们可以开发基于AI模型运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。”他强调，虽然人工智能是一个技术问题，但同时也是一个多方面的问题，它要求理解不同国家用户偏好的复杂背景。

对于“对齐”问题——即让AI系统按照人类意愿行动，这是当前行业的一个热点议题。建立强大的AGI系统如果不被设计为遵循人类意图，就可能导致灾难性的后果。因此，在训练这些系统时，我们必须确保它们与人类目标保持一致。这包括通过指导、调整甚至输出来解锁新能力，同时避免误用或故意错误。

为了促进国际合作，阿尔特曼透露，他们正在推动制定国际标准以确保高质量的人工智能开发。此外，他还提到，他们正建设数据库，这些数据库反映了全球价值观和偏好。“人们可以利用这些数据库调整他们的人工智能，也可以分享他们在这方面取得的成果。”