反复绘制科技与未来的画像阿尔特曼CEO强调中国人才的重要性

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院的张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。

在讨论通用人工智能迅猛发展背景下的全球合作时，张宏江询问了阿尔特曼关于人工智能安全的关键因素以及应对挑战的策略。阿尔特曼指出，确保AI系统的安全性不仅仅是技术层面的问题，还需要考虑整个系统架构。“我们可以开发基于AI模型运行的高级分类器和检测器，以监控模型是否符合使用限制，并不断迭代优化。”

然而，他也强调，这一领域并非单纯由技术解决，要让AI既安全又有益，还需理解不同国家用户偏好的多样性。“中国拥有一批世界领先的人工智能人才。解决人工智能对齐难题所面临的挑战，将需要来自世界各地最优秀学者的贡献。我希望中国的人工智能研究人员能够作出巨大的贡献。”

目前，对齐问题正成为全球人工智能研究界关注的话题。这涉及到如何建立一个强大而且按照人类意愿行事的人机交互系统。如果未能正确设置目标，这些系统可能会导致灾难性的后果，因此在训练AGI时，我们必须确保其目标与人类价值观保持一致。

为了促进国际合作，阿尔特曼提到了正在推动制定国际标准来开发更为安全的人工智能，同时也在努力构建反映全球价值观和偏好的数据库。“通过这些数据库人们可以调整他们的人工智能体验，也可以共同分享有关AI安全方面的知识。”