科技流学霸反复解开对齐难题的秘密阿尔特曼CEO信赖中国人才

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院的张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。

在讨论通用人工智能迅猛发展背景下的全球合作时，张宏江向阿尔特曼提出了一个问题：面对这些快速变化，我们应该如何确保人工智能的安全性？在这个过程中，又有哪些关键因素和挑战需要我们关注？

阿尔特曼表示，为了解决这一问题，我们需要从技术层面着手。首先，要确保模型本身是安全的，并且整个系统都是可靠无缺的。他提到了可以构建基于AI模型的分类器和检测器，以便监控模型是否符合预定的使用策略，并不断进行优化。

不过，他也指出，这个问题不仅仅是一个技术难题，还涉及到国际社会对于不同文化背景下用户偏好的理解。“中国拥有一批世界级的人才，对于解决AI系统‘对齐’的问题至关重要。我希望中国在这方面能做出巨大的贡献。”他说。

“对齐”问题是目前人工智能领域最紧迫的问题之一。这涉及到如何训练AGI，使其能够按照人类设定的意图行事，而不会产生冲突或误导性的结果。如果没有适当的人类指导和反馈机制，强大的AGI可能会导致灾难性后果。

为了推动国际合作并建立更为严格的人工智能开发标准，阿尔特曼透露，他们正在努力创建一套反映全球价值观和偏好的数据库。这样的数据库将使人们能够根据自己的需求调整AI系统，同时也促进各国共享他们在人工智能安全领域的研究成果。