2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入交流。张宏江询问在通用人工智能迅速发展的背景下，如何确保其安全性，并应对可能出现的问题。
阿尔特曼认为，对于人工智能的安全研究至关重要，不仅要考虑模型本身，还需扩展到整个系统。他提出了构建在模型上的安全分类器和检测器，以监控模型是否符合使用策略，并不断优化。
然而，他强调这是一个跨越技术、政策和文化等多个层面的挑战。他表达了希望中国人才能为解决人工智能系统对齐问题做出贡献的愿望：“中国拥有世界级的人才，这些人才对于解决我们面临的难题至关重要。”
人工智能系统对齐问题是当前行业的焦点之一。建立强大的通用AGI，如果它不按人类意愿行事，将会带来严重后果。因此，对AGI进行训练时必须确保其目标与人类目标保持一致。这需要通过指导、调整输出等方式，不断解锁新能力，同时避免误用。
为了加强国际合作，阿尔特曼透露他们正在设立国际标准以促进安全开发，以及构建反映全球价值观和偏好的数据库。“人们可以通过这些数据库调整AI系统，也可以共同分享关于AI安全方面的研究。”
