反复探索对齐难题阿尔特曼CEO强调中国人才的重要性科技创新素材摘抄200字

北京日报客户端 记者 李明

6月10日，在2023年智源大会上，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。张宏江提问，随着通用人工智能的快速发展，每个国家都在寻求建立共识并推动全球合作。面对这些挑战，我们应该如何确保人工智能的安全性？阿尔特曼表示，安全技术研究是关键，并且需要考虑整个系统，而不仅仅是模型本身。他强调：“我们可以构建能够监控模型是否符合使用策略的分类器和检测器，并不断迭代。”

然而，阿尔特曼认为，这是一个复杂的问题，不仅仅依赖于技术，还需要理解不同国家用户偏好的背景。“中国拥有一批世界级的人工智能人才。如果想要解决人工智能系统‘对齐’问题，就需要来自世界各地最优秀头脑。我希望中国的人工智能研究人员能做出巨大贡献。”他说。

“对齐”问题是当前人工整合行业的焦点，它指的是如何确保一个强大的AGI系统按照人类意愿行事，即使它拥有超越人类能力的目标。在这个过程中，对人类意图进行训练和指导至关重要，以避免潜在风险。

为了促进国际合作，阿尔特曼透露，他们正在努力建立国际标准来开发更安全的人工智能系统，并创建反映全球价值观和偏好的数据库。这意味着人们可以通过这些数据库调整AI，也可以共同分享有关AI安全性的研究成果。