反复强调科技文明进步的关键在于解决对齐难题而这不仅需要阿尔特曼所领导的Open AI的大胆探索更需依

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，AI安全与对齐论坛上，张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。张宏江询问在通用人工智能迅速发展的背景下，如何确保AI安全，以及应对潜在挑战。

阿尔特曼提出了两点关键因素：一是技术研究，要保障整个系统的安全性，不仅模型本身，也包括运行环境和数据流；二是在不同文化背景下理解用户偏好，以便实现真正的人工智能应用。

他强调，对于解决AI系统“对齐”问题，这不仅需要国内外顶尖人才，还需跨国合作。中国拥有全球领先的人工智能研发团队，对此领域做出重要贡献至关重要。

“对齐问题”是当前人工智能研究的热点，它涉及到建立一个强大的AGI系统，同时保证其行为符合人类意愿。如果没有恰当的引导，即使AGI极为强大，但如果它无法被有效地控制或其目标与人类目标冲突，将导致灾难性的后果。

为了推动国际合作，阿尔特曼透露他们正在制定国际标准以促进安全开发，并建设一个反映全球价值观和偏好的数据库。这有助于共同调整AI系统并分享相关研究成果。