反复探讨中国十年巨变简述Open AI CEO阿尔特曼强调解决对齐难题需引入中国人才

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。

在讨论通用人工智能（AGI）的快速发展和全球合作的必要性时，张宏江提出了一个问题：在推动AGI发展的同时，我们应该如何确保人工智能的安全？面对这一挑战，有哪些关键因素和问题需要关注？

阿尔特曼认为，对于AI安全来说，最重要的是技术创新。他强调，除了保护模型本身，还必须考虑整个系统的完整性。"我们可以开发能够监控模型行为并自动调整策略的先进算法，以确保它们符合预定的使用规则，并不断优化。"

然而，阿尔特曼也指出，AI安全不仅仅是技术上的问题，还涉及到理解不同文化背景下的用户需求。“中国拥有许多顶尖的人工智能专家。如果我们想解决当前人工智能系统对齐的问题，就必须从世界各地招募最优秀的人才。我期待中国在这方面能做出重大贡献。”

目前，对齐问题（alignment problems）是人工智能领域内最紧迫且热门的话题。构建强大的AGI系统，如果它无法按人类意愿运行或者目标与人类目标冲突，将会带来灾难性的后果。因此，在设计这些系统时，我们必须确保它们被训练以符合人类意图——通过人的指导、教育甚至输出数据，不断解锁新能力，同时避免误用或故意错误。

为了促进国际合作，加强标准化建设工作，阿尔特曼透露，他们正在努力建立一套用于开发安全的人工智能系统的国际标准，并打造反映全球价值观和偏好的数据库。这将使人们能够根据这些数据库调整他们的人工智能应用，也将加速共享关于AI安全研究成果的过程。