反复绘制科技画阿尔特曼CEO强调解决对齐难题需中国人才合作

北京日报客户端 记者 李明

6月10日，在2023年智源大会上，AI安全与对齐论坛引起了广泛关注。张宏江，智源研究院理事长和美国国家工程院外籍院士，与OpenAI首席执行官山姆·阿尔特曼进行了深入交流。

在讨论通用人工智能的快速发展和全球合作机制时，张宏江提出了一个问题：面对如此巨大的挑战，我们应该如何确保人工智能的安全？

阿尔特曼表示，关键在于技术创新。他强调：“我们需要不仅保护模型本身，还要保护整个系统。”他提出可以通过构建安全分类器和检测器来监控模型，并不断迭代以保持其安全性。

然而，阿尔特曼也指出，这个问题不是纯粹的技术难题。他认为，要让人工智能既安全又有益，还需要理解不同国家用户的偏好。在这个过程中，他特别提到了中国的人才资源：“中国拥有世界上最优秀的人工智能人才。如果想要解决对齐问题，就必须得有来自世界各地最聪明头脑的贡献。我真心希望中国能够做出巨大的贡献。”

“对齐”问题是当前人工智能行业研究的一个重点。建立强大的AGI系统，如果它不能按人类意愿行事，那么结果将非常危险。因此，在训练这样的系统时，我们必须确保它们按照人类意图运行。这意味着不断调整、指导甚至输出，以解锁新的能力，同时避免误用。

为了加强国际合作，推动更好的标准化工作，阿尔特曼透露他们正在建设反映全球价值观和偏好的数据库。“人们可以通过这些数据库调整AI，也可以共享关于AI安全方面的研究。”