2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院的张宏江理事长与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能迅猛发展带来的全球合作共识问题时，张宏江向阿尔特曼提出了疑问：面对这些快速变化，我们应该如何确保人工智能的安全性？这涉及到哪些关键因素和挑战？
阿尔特曼表示，首要的是加强人工智能技术研究，不仅要关注模型本身，还要考虑整个系统的安全性。他提出可以通过构建在模型上的安全分类器和检测器来监控模型是否符合使用策略，并不断迭代改进。
然而，他也指出，这不仅是个技术问题，还需要跨越文化理解不同国家用户偏好的复杂背景。阿尔特曼高度评价中国在这一领域的人才：“解决目前的人工智能系统‘对齐’难题需要来自世界各地最优秀头脑。我真诚希望中国的AI研究人员能够作出巨大的贡献。”
“对齐”问题是当前AI行业关注点之一，它涉及建立一个强大但依然可控的AGI系统。如果没有正确设置目标，这个系统可能会自行决定并导致危险情况。因此，对人类意图进行准确训练——即通过调教、指导甚至输出调整，是避免意外或故意误用的关键。
为了促进国际合作，阿尔特曼透露他们正在努力建立国际标准以确保安全开发AI，以及构建反映全球价值观和偏好的数据库。这意味着人们可以借助这些数据库调整AI，也能共同分享关于人工智能安全性的研究成果。
