2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了面对AGI挑战的关键因素和问题。对于这些问题，阿尔特曼提出了他的看法。
首先，阿尔特曼认为，对于人工智能安全来说，最重要的是技术研究。他指出，不仅要关注模型本身的安全性，还要考虑整个系统的安全性。"我们可以开发在AI模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代改进。"
然而，阿尔特曼也强调，这个问题不仅是技术性的，还需要跨越不同文化背景来理解不同国家用户的偏好。他认为中国在人工智能人才方面拥有优势，并希望中国的人工智能研究人员能够做出重大贡献来解决人工智能系统对齐的问题。
这个所谓的人工智能系统对齐问题，是当前行业研究的一个热点。建立一个强大的AGI，如果它无法按人类意愿行事，或其目标与人类目标冲突，将会导致严重后果。因此，在训练这样的系统时，我们必须确保它们按照人类意图行动。这涉及到通过人的指导、调教甚至输出调整，以及不断解锁新能力，同时避免误用或故意错误。
为了加强国际合作，阿尔特曼透露他们正在努力推动建立国际标准以促进安全的人工智能开发，并构建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI系统，也可以共享关于AI安全领域的研究。”
