2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能（AGI）的快速发展和全球合作的必要性时，张宏江提出了一个问题：在推动AGI发展的同时，我们应该如何确保人工智能的安全？面对这一挑战，有哪些关键因素和问题需要我们关注？
阿尔特曼表示，对于人工智能安全，我们需要从技术角度着手，同时也要考虑到整个系统的安全性。他提出，可以通过构建在AI模型上的安全分类器和检测器来监控模型是否符合使用策略，并不断迭代优化。
然而，阿尔特曼强调，解决人工智能系统对齐问题不仅仅是技术层面的挑战，还涉及到跨文化沟通和不同国家用户偏好的理解。中国拥有世界级的人才资源，他希望这些人才能够为解决AI系统对齐的问题贡献力量。
人工智能系统对齐问题是当前行业研究的焦点之一。这一难题主要体现在当一个非常强大的AGI系统没有按照人类意愿行事或者目标与人类目标冲突时所带来的风险。因此，在训练这样的系统时，就必须确保它们能够按照人类设定的意图行动，这包括通过人的指导、调教甚至输出结果，不断解锁新能力，同时避免任何误用或故意滥用的情况发生。
为了加强国际间的人工智能安全合作，阿尔特曼宣布正在致力于建立国际标准，以便更好地开发出安全的人工智能系统。此外，他还提出了构建反映全球价值观和偏好的数据库，以便人们可以根据这些数据库调整AI系统，并共同分享在人工智能安全领域取得的研究成果。
