2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和挑战。对于这些问题，阿尔特曼提出了他的看法。
首先，阿尔特曼认为，对于人工智能的安全研究至关重要。“我们不仅需要确保模型本身的安全性，还要考虑整个系统的安全性。”他指出，可以通过在模型上运行的安全分类器和检测器来监控是否符合使用策略，并不断迭代改进。
然而，阿尔特曼也强调，这个问题不是纯粹技术的问题。他表示，要让人工智能既安全又有益，我们需要理解不同国家用户偏好的不同背景。“中国拥有世界顶尖的人才，我相信他们将会在解决‘对齐’难题中发挥巨大作用。”
“对齐”问题是当前人工智能行业最热门的话题之一。这涉及到建立一个强大的AGI系统，但如果这个系统没有按照人类意愿行事或其目标与人类目标冲突，那么情况就非常危险。因此，在训练这样的模型时，我们必须确保它们被正确地“对齐”，即通过人的指导、训练甚至输出，不断解锁新能力，同时避免误用。
为了促进国际合作推动这一过程，阿尔特曼透露，他们正在努力建立一套国际标准，以便更好地开发出安全的人工智能系统。此外，他们还计划构建一个反映全球价值观和偏好的数据库，让人们可以根据这些数据库调整AI，也可以共享关于AI安全方面的研究成果。
