2025-01-28 智能 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会上，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。张宏江提问，随着通用人工智能的快速发展，每个国家都在寻求建立共识并推动全球合作。人工智能安全面临哪些关键因素和问题？我们应该如何应对这些挑战？
山姆·阿尔特曼回应称，首要任务是加强人工智能安全技术研究，不仅要确保模型本身安全，还需考虑整个系统的全面安全性。他提议可以开发在模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断改进。
然而，他也指出，人工智能安全不仅仅是技术层面的问题，更需要理解不同国家用户偏好的多样性。“中国拥有世界级的人才团队。我相信，只有来自世界各地最优秀头脑的共同努力，我们才能解决目前困扰我们的人工智能系统对齐难题。我期待中国的AI研究人员能够作出巨大的贡献。”
当前，对齐问题（alignment problems）成为全球AI研究热点之一。构建强大AGI系统若其行为无法按人类意愿行事，或目标与人类冲突，将会导致严重后果。在AGI系统中，通过训练、指导甚至输出调整人的意图，是实现目标并避免误用新能力的关键。
为了促进国际合作，山姆·阿尔特曼宣布正在设立国际标准以确保可靠的人工智能开发，并创建反映全球价值观和偏好的数据库。“人们可以借助这些数据库调整AI系统，也能共享关于AI安全领域的心得体会。”
