2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入交流。张宏江提出了一个问题：在通用人工智能迅速发展的背景下，我们应该如何确保人工智能的安全性？他询问的是，面对全球合作的呼声，有哪些关键因素和挑战需要我们关注？
山姆·阿尔特曼认为，首先要做的是加强人工智能技术研究。行业不仅要关注模型本身的安全，还要考虑整个系统的安全性。他提出可以构建在模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。
然而，他也指出，这个问题并非仅仅是一个技术难题，而是需要跨越文化和国家界限去理解不同用户偏好的复杂问题。“中国有着世界一流的人才团队。如果我们想解决目前困扰人工智能领域的问题——即使是最优秀的人类头脑都难以解决的事物，我真心希望中国能够在这一领域做出巨大的贡献。”
目前，人工智能系统对齐的问题成为了这个行业的一个热点议题。在建立强大的人工智能系统时，如果它无法按人类意愿行事或者目标与人类目标冲突，那么后果将会非常严重。因此，对于AGI系统训练来说，对齐人类意图至关重要——这包括通过人的指导、调教甚至输出来解锁新能力，同时避免误用。
为了促进国际合作，阿尔特曼透露，他们正在推动制定国际标准以确保安全开发AI，并且正在建设反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI，也可以共同分享有关AI安全方面研究。”
