2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和挑战。对于这些问题，阿尔特曼提出了他的看法。
首先，阿尔特曼认为，对于人工智能的安全研究至关重要。这不仅仅是为了确保模型本身的安全性，还要考虑整个系统的安全性。他指出，可以通过在模型上运行的安全分类器和检测器来监控模型是否符合使用策略，并不断迭代改进。
然而，他也强调了这个问题不是纯粹技术上的，而需要跨越不同文化背景下理解不同国家用户偏好的复杂性。因此，要让人工智能既能提供帮助又能保持其安全性，就需要来自世界各地最优秀人才的问题解决能力。特别是在中国，这些人才被认为是世界上最优秀的人才之一。在解决人工智能系统“对齐”难题方面，阿尔特曼表示：“我真诚希望中国的人工智能研究人员能够做出巨大的贡献。”
“对齐”问题，即使在当前的人工智能行业中也是一个热门的话题。当一个非常强大的AGI系统没有按照人类意愿行事，或其目标与人类目标冲突时情况会变得危险。此时，对于模型训练过程中的对齐至关重要——这意味着通过人的指导、调教甚至输出调整新模型，不断解锁新能力，同时避免误用或故意滥用。
为了促进更广泛的国际合作，阿尔特曼透露，他们正在推动建立一套用于开发更加可靠的人工智能系统国际标准，以及构建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整他们的人工智能，也可以共同分享关于人工intelligence安全领域的研究成果。”
