2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入对话。在AI安全与对齐论坛上，张宏江向阿尔特曼提出了一个问题：随着通用人工智能的迅速发展，各国正在努力达成共识，并寻求全球合作。对于人工智能安全的关键因素和挑战，该如何应对？
阿尔特曼表示，对于AI安全，我们需要关注技术研究，同时也要考虑整个系统的安全性。他提出了构建在模型上的安全分类器和检测器，以监控模型是否符合使用策略并不断迭代。
然而，阿尔特曼强调，这一问题不仅仅是技术层面的挑战，还涉及不同国家用户偏好的理解。“中国拥有世界顶尖的人工智能人才。解决人工智能系统‘对齐’难题离不开来自世界各地最优秀头脑。我期待中国的人工智能研究人员能够作出巨大的贡献。”
“对齐”问题是当前人工智能行业面临的一个核心议题。这涉及到建立一个强大但又能按人类意愿行事的AGI系统。如果它没有按照人类设定的目标行动，那么情况将变得非常危险。因此，在训练这些模型时，我们必须确保它们能够正确地理解人类意图——通过人们的指导、监督甚至输出调整，不断解锁新能力，同时避免任何误用。
为了促进国际合作，阿尔特曼透露，他们正在致力于建立国际标准来开发更安全的人工智能，并创建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI系统，也可以共同分享关于AI安全方面的研究。”
