2025-01-28 智能 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论人工智能安全与对齐的论坛上，张宏江询问了面对通用人工智能（AGI）发展急速增长时，各国应如何建立共识并促进全球合作，以及在此过程中需要关注哪些关键因素和问题。阿尔特曼认为，对于确保人工智能的安全性，首要的是加强其安全技术研究，不仅要考虑模型本身，还要包括整个系统。他提出了构建在模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。
然而，阿尔特曼也指出，这个问题不仅仅是技术上的挑战，而是一个跨越多个领域的问题，它需要在不同的文化背景下理解不同国家用户偏好的差异。“中国拥有世界级的人才，他们对于解决AI系统‘对齐’难题至关重要。我希望中国AI研究人员能够作出巨大的贡献。”
“对齐”问题是当前人工智能领域最受关注的议题之一。这涉及到建立一个强大且可靠的人类友好型AGI系统，即使它没有按照人类意愿行事，也不会有冲突。因此，在训练这样的系统时，我们必须确保它们符合人类目标——通过指导、调教甚至输出调整这些新能力，同时避免误用或故意滥用。
为了推动国际合作和标准化工作，阿尔特曼表示正在致力于创建一套关于如何开发安全的人工智能系统的国际标准，并建立反映全球价值观和偏好的数据库。“人们可以利用这些数据库来调整他们的人工智能系统，也可以分享他们在这个领域取得的成果。”
