2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和应对挑战的问题。
阿尔特曼指出，确保人工智能的安全性需要在技术研究方面下功夫，不仅要关注模型本身，还要考虑整个系统的完整性。他提到：“我们可以开发能够在AI模型上运行的安全分类器和检测器，以监控模型是否符合预定的使用策略，并不断迭代优化。”
然而，阿尔特曼也强调，这一问题不仅仅是技术层面的，而需要跨越不同文化背景下的用户偏好。为了解决这一难题，他认为需要来自世界各地最优秀人才的贡献。他特别赞扬中国的人工智能领域内有着极为优秀的人才，并希望他们能做出巨大的贡献。
人工智能系统对齐问题是当前行业研究的一个重点。这涉及建立一个强大且按人类意愿行动的AGI系统，如果它没有按照预期行事或目标与人类冲突，将会造成严重后果。因此，对于AGI系统训练来说，要确保其行为与人类意图保持一致——即通过人的指导、调教甚至输出调整，以及解锁新能力，同时避免误用或故意滥用。
为了加强国际合作，阿尔特曼透露，他们正在努力制定国际标准来促进安全开发AI系统，并构建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI系统，也可以共享有关AI安全领域研究成果。”
