2025-01-28 手机 0
北京日报客户端记者李明
6月10日，2023年北京智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在通用人工智能迅速发展的背景下，各国正在努力达成共识，以促进全球合作。面对这一挑战，我们应该关注哪些关键因素和问题，以及如何应对这些难题？
阿尔特曼提出了他的看法：“首先，我们需要在安全技术上下功夫，不仅要确保模型本身的安全，还要考虑整个系统的完整性。”他认为，可以开发基于AI模型运行的安全分类器和检测器，用以监控模型是否符合预设策略，并不断优化。
然而，阿尔特曼也强调，这个问题不是纯粹技术性的，要想让AI既安全又有益，还需理解不同国家用户偏好的多样性。“中国拥有一批世界领先的人工智能人才。如果我们想要解决AI系统‘对齐’的问题，就需要集结来自世界各地最优秀头脑。我真心希望中国的AI研究人员能做出巨大的贡献。”
“对齐”问题是当前人工智能领域的一个焦点。构建一个强大的AGI系统，如果它无法按人类意愿行事，或其目标与人类目标相冲突，将会引发严重后果。因此，在AGI系统中，对人类意图进行训练，是必须将其与人类价值观保持一致——通过指导、调整甚至输出来解锁新能力，同时避免误用。
为了加强国际合作，阿尔特曼透露，他们正在设立国际标准来确保安全的人工智能开发，并建立反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整他们的人工智能，也可以共同分享关于人工智能安全方面的研究。”
