2025-01-28 手机 0
北京日报客户端记者李明
6月10日，2023年在京举办的智源大会上，张宏江院士与OpenAI首席执行官山姆·阿尔特曼进行了深入交流。面对通用人工智能（AGI）的迅猛发展，每个国家都在积极探讨如何建立共识并促进全球合作。张宏江院士向阿尔特曼提出了一个问题：人工智能安全的关键因素是什么？我们又该如何应对这些挑战？
山姆·阿尔特曼首先强调了安全技术研究的重要性。他指出，行业不仅需要关注人工智能模型本身的安全，还需考虑整个系统的安全。“我们可以构建能够监控模型是否符合使用策略的人工智能模型上的分类器和检测器，并不断迭代。”他说。
然而，阿尔特曼也清楚地认识到，这是一个既有技术难题也是涉及文化差异的问题。他认为，要让人工 intelligence既能保持安全又能带来益处，我们必须在不同的背景下理解不同国家用户偏好的复杂性。“中国拥有世界上最优秀的人才之一，在解决‘对齐’难题方面，我相信他们会发挥巨大作用。”
“对齐”问题是当前人工智能领域的一个热点议题。这涉及到创建强大的AGI系统时确保其行为符合人类意愿的问题。如果这样的系统没有按人类预期行事，它可能会导致灾难性的后果。因此，在开发AGI时，对模型进行训练成为确保其目标与人类目标一致、避免冲突和误用的关键任务。
为了推动国际合作，山姆·阿尔特曼透露，他们正在努力建立国际标准，以便更好地开发出安全的人工智能，同时也在构建反映全球价值观和偏好的数据库。“人们可以通过这些数据库调整他们的人工智能，也可以共同分享关于人工intelligence安全方面的研究。”
