2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院的张宏江理事长与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能迅猛发展并引发全球合作共识之际，张宏江向阿尔特曼提出了一个问题：面对这些挑战，我们应该如何确保人工智能的安全性？对于这一问题，阿尔特曼提出需要从技术层面着手，“我们必须不仅关注模型本身的安全，还要考虑整个系统的安全性。”他进一步指出，可以通过构建运行在AI模型上的安全分类器和检测器来监控模型是否符合使用策略，并不断迭代优化。
然而，阿尔特曼也强调，这个问题不是纯粹技术性的，而是涉及到理解不同国家用户偏好的复杂背景。“中国拥有世界级的人工智能人才。解决人工智能系统对齐的问题，将需要来自世界各地最优秀头脑的大力支持。我希望中国的人工智能研究人员能够做出巨大的贡献。”
目前，对齐问题成为了人工智能领域最热门的话题。建立强大的AGI系统，如果它不能按人类意愿行事，或目标与人类目标冲突，就可能导致灾难。因此，在训练AGI时，要确保其行为符合人类意图——即通过人的指导、调整甚至输出，不断解锁新能力，同时避免误用。
为促进国际合作推动前进，阿尔特曼宣布正在设立国际标准以确保开发高质量AI系统，并打造反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI系统，也可以共同分享有关AI安全方面的研究成果。”
