2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和挑战。对于这些问题，阿尔特曼提出了他的看法。
首先，阿尔特曼认为，对于人工智能的安全研究至关重要。这不仅包括模型本身的安全性，还要考虑整个系统的安全性。他强调：“我们可以开发在AI模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。”
然而，阿尔特曼也指出，这个问题不是纯粹技术性的，而是需要在不同文化背景下理解不同国家用户偏好的复杂问题。“中国拥有世界上最优秀的人工智能人才。如果想要解决人工智能系统对齐的问题，就需要来自世界各地最聪明人的帮助。我真诚希望中国的人工智能研究人员能做出巨大的贡献。”
对齐问题是当前人工智能领域的一个热点议题。建立一个强大的AGI系统，如果它不能按人类意愿行事或者目标与人类目标冲突，将会带来严重后果。因此，在训练这样的系统时，我们必须确保它们按照人类意图进行，即通过指导、教育甚至输出调整，让它们不断解锁新能力，同时避免误用。
为了促进国际合作，阿尔特曼透露，他们正在努力制定国际标准以构建更安全的人工智能开发环境，并建设反映全球价值观和偏好的数据库。“人们可以通过这些数据库调整他们的人工智能系统，也可以共同分享他们在这方面的研究。”
