科技让生活更美好的500字六年级Open AI CEO阿尔特曼赞扬中国人才解决对齐难题需反复探索

北京日报客户端 记者 李明

6月10日，在2023年智源大会上，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。张宏江提问，随着通用人工智能的快速发展，每个国家都在寻求建立共识并推动全球合作。人工智能安全的关键因素是什么？我们如何应对这些挑战？

阿尔特曼回应，首先要加强人工智能安全技术研究，不仅要关注模型本身，还要考虑整个系统。“我们可以开发能够监控模型是否符合使用策略的安全分类器和检测器，并不断迭代。”他指出，人工智能安全不仅是技术问题，还需要理解不同国家用户的偏好。

阿尔特曼高度评价中国的人才资源：“中国拥有一批世界顶尖的人工智能人才。如果想解决‘对齐’难题，就必须得有来自世界各地最优秀头脑的贡献。我希望中国能在这方面做出巨大贡献。”

“对齐”问题是当前人工intelligence领域的核心议题。在构建强大的AGI系统时，如果它不能按人类意愿行事或者目标与人类目标冲突，那么结果将非常严重。因此，在训练AGI系统时，要确保其行为与人类意图保持一致。这涉及到通过人的调教、指导以及输出来解锁新能力，同时避免误用。

为了促进国际合作，阿尔特曼表示正在努力建立国际标准，以便更好地开发安全的人工智能系统，并构建反映全球价值观和偏好的数据库。“人们可以通过这些数据库调整AI，也可以共同分享AI安全研究成果。”