2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能（AGI）的快速发展和全球合作的必要性时，张宏江提出了一个问题：在推动AGI发展的同时，我们应该如何确保人工智能的安全？面临哪些关键因素和挑战？
阿尔特曼表示，首要的是加强人工智能安全技术研究。除了模型本身之外，还需关注整个系统的安全性。他提出可以构建在AI模型上的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代优化。
然而，阿尔特曼也指出，这个问题不是纯粹技术性的问题，而是需要跨文化理解不同国家用户偏好的复杂议题。“中国拥有一批世界级的人工智能人才。”他说，“解决人工智能系统对齐难题不仅需要国内人才，还需要来自世界各地最优秀头脑。我希望中国的人工智能研究人员能够做出重大贡献。”
目前，对齐问题正成为行业内的一个热点话题。建立一个强大的AGI系统，如果它无法按人类意愿行事，或其目标与人类目标冲突，将会导致严重后果。因此，在开发这些系统时，我们必须确保它们按照人类意图“对齐”——通过人的指导、训练甚至输出调整新模型，并避免误用或故意滥用的风险。
为了促进国际合作，阿尔特曼透露，他们正在致力于建立一套国际标准来支持安全开发AI，以及构建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整他们的人工智能，也可以共同分享关于AI安全方面的研究成果。”
