2025-01-28 手机 0
北京日报客户端记者：李明
6月10日，2023年在北京举办的智源大会上，张宏江教授与OpenAI首席执行官山姆·阿尔特曼进行了深入交流。张宏江提出了一个问题：随着通用人工智能（AGI）的快速发展，各国正在努力寻求共识并构建全球合作框架。在面对的人工智能安全挑战时，有哪些关键因素和问题需要关注？以及我们应该如何应对这些挑战？
阿尔特曼表示，首要的是加强人工智能安全技术研究。除了确保模型本身的安全性外，还需考虑整个系统的安全性。他提出，可以通过在AI模型上运行的安全分类器和检测器来监控模型是否符合使用策略，并不断迭代优化。
然而，他也指出，人工智能安全不仅是技术问题，更涉及到理解不同国家用户偏好的复杂背景。“中国拥有世界级的人才，这对于解决人工智能系统‘对齐’的问题至关重要。我希望中国的AI研究人员能够做出重大贡献。”
“对齐”问题是当前AI行业关注的话题之一。这涉及到建立强大但又能按人类意愿行事的人类-机器协作系统。如果没有正确地训练AGI，使其目标与人类目标保持一致，那么后果可能极其严重。因此，在开发AGI时，我们必须确保人类意图得到准确反映——通过指导、调整甚至输出，以解锁新的能力，同时避免误用。
为了促进国际合作，阿尔特曼宣布，他们正在设立国际标准以促进更为可靠的人工智能开发，并打造反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整他们的人工智能系统，也可以分享彼此在这一领域的研究成果。”
