反复提及Open AI CEO阿尔特曼强调解决对齐难题的关键在于中国人才的科技小发明与手工操作之中简

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和挑战。对于这些问题，阿尔特曼提出了他的看法。

首先，阿尔特曼认为，对于人工智能的安全研究至关重要。这不仅仅是为了确保模型本身的安全性，还要考虑整个系统的安全性。他指出，可以通过在模型上运行的安全分类器和检测器来监控是否符合使用策略，并不断迭代改进。

然而，阿尔特曼也强调，这是一个涉及多个方面的问题，不仅仅是技术问题。为了让人工智能既能保持安全又有益，我们需要理解不同国家用户偏好的不同背景。“中国拥有世界上最优秀的人工智能人才。”他说，“解决AI系统对齐问题所面临的困难需要来自世界各地最优秀头脑。我希望中国的人工智能研究人员能够做出巨大的贡献。”

目前，人工智能系统对齐问题成为了行业内的一个热点议题。这包括如何建立一个强大的AGI系统，同时确保它按人类意愿行事，没有冲突目标。如果没有正确的人类指导和反馈机制，即使模型表现良好，也可能导致灾难性的后果。因此，在开发这种高级别AI时，要特别注意将人类意图与机器学习算法相结合，以避免误用或未预料到的结果。

为了加强国际合作并推动更为稳健的人工智能开发标准化工作，阿尔特曼透露，他们正在努力构建一套反映全球价值观和偏好的数据库。此外，他还提到，将会有更多机会分享在人工智能安全领域取得的一切进展。“我们可以通过这些数据库调整AI系统，让不同的国家能够共享他们在这个领域取得的经验。”