2025-01-28 手机 0
北京日报客户端记者李明
6月10日，2023年在京举办的智源大会上，张宏江与OpenAI CEO山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了人工智能安全的关键因素及其应对策略。阿尔特曼认为，对于确保AI安全至关重要的是技术研究，以及整个系统的全面考虑。他提出了构建在模型上的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。
然而，阿尔特曼也指出，人工智能安全不仅是技术问题，还需要跨越文化和背景理解不同国家用户的偏好。他高度评价中国的人才资源：“中国拥有世界上最优秀的人工智能人才。如果想要解决AI系统对齐问题，我们需要来自世界各地最优秀头脑。我希望中国能做出巨大贡献。”
目前，对齐问题（alignment problems）是人工智能领域内的一个热点。建立强大的AGI系统，如果它不能按人类意愿行事或目标与人类目标冲突，将面临严重后果。因此，在训练这样的系统时必须确保它们被“对齐”，即通过人的指导、调教甚至输出调整其行为，从而解锁新能力，同时避免误用。
为了促进国际合作，阿尔特曼正在推动设立国际标准来开发更为安全的人工智能，并建立反映全球价值观和偏好的数据库。“人们可以通过这些数据库调整他们的人工智能，也可以共同分享关于AI安全的研究。”
