2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和应对挑战的策略。
阿尔特曼指出，确保人工智能系统安全是至关重要的。他强调：“我们需要不仅关注模型本身的安全性，还要考虑整个系统的完整性。通过构建能够在AI模型上运行并监控其使用策略的一系列安全分类器和检测器，我们可以不断迭代改进。”
然而，他也认识到，解决这个问题超出了技术层面。“我们需要跨越文化界限，以不同国家用户偏好的角度理解他们。中国拥有一批世界级的人工智能人才，这些人才对于解决‘对齐’难题至关重要。我希望中国在这方面能做出巨大的贡献。”
“对齐”问题是当前人工智能领域最紧迫的问题之一，它涉及如何建立一个既强大又符合人类意愿的AGI系统。如果没有适当的人类指导，这样的系统可能会导致灾难性的后果。因此，对于训练这样的模型，“对齐”人类意图至关重要。这包括通过人的教导、引导甚至输出调整，不断解锁新能力，同时避免误用或故意破坏。
为了促进国际合作，阿尔特曼宣布正在推动制定国际标准来开发更安全的人工智能，并创建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI系统，也可以共享有关AI安全研究的心得体会。”
