2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了面对AGI挑战的关键因素和问题。对于这些问题，阿尔特曼提出了他的看法。
首先，阿尔特曼认为，对于人工智能安全来说，最重要的是技术研究。他指出，不仅要关注模型本身的安全性，还要考虑整个系统的安全性。“我们可以在AI模型上构建运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。”他说。
然而，他也强调了人工智能安全是一个跨越技术、社会和文化多个层面的问题。“为了让AI既安全又有益，我们需要在不同的背景下理解不同国家用户的偏好。”他表示，“中国拥有世界上最优秀的人工智能人才。我真的希望他们能够做出巨大的贡献来解决AI系统对齐的问题。”
人工智能系统对齐问题是当前行业的一个热点议题。这涉及到建立一个强大的AGI系统，同时确保它按照人类意愿行事。如果没有这种“对齐”，情况可能会变得非常危险。因此，在训练这样的模型时，必须确保它们反映出人类意图，这意味着通过人的指导或输出来解锁新能力，并避免误用。
为了推动国际合作，阿尔特曼宣布正在努力建立国际标准，以便更好地开发出安全的人工智能系统。他还提到了构建反映全球价值观和偏好的数据库：“人们可以通过这些数据库调整AI系统，也可以共同分享关于AI安全方面的研究。”
