2025-01-28 手机 0
北京日报客户端记者：李明
6月10日，2023年在北京举办的智源大会上，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。张宏江提出了一个问题：随着通用人工智能（AGI）的快速发展，各国正在努力寻找共识并建立全球合作机制。那么，对于人工智能安全来说，有哪些关键因素和问题需要关注？以及我们应该如何应对这些挑战？
面对这个问题，阿尔特曼表示首要的是加强人工智能安全技术研究。“不仅要考虑模型本身的安全性，还必须考虑整个系统的完整性。”他进一步解释说，“我们可以开发基于人工智能模型运行的安全分类器和检测器，以监控模型是否遵循使用策略，并不断迭代优化。”
然而，阿尔特曼也指出，这是一个超越技术范畴的问题。他强调：“让人工智能既安全又有益，不同国家用户的偏好在不同的背景下都需要被理解。”他还特别赞扬中国在这一领域的人才优势：“解决AI系统‘对齐’难题离不开来自世界各地最优秀头脑。我真诚希望中国的人工智能研究人员能做出巨大的贡献。”
“对齐”问题是当前AI行业关注的话题之一。在构建强大的人类级别AGI时，如果没有正确地将人类意图融入其中，那么可能会导致灾难性的后果。这就要求通过人的指导、训练甚至输出来确保新的能力不断解锁，同时避免误用。
为了促进国际合作推动更好的标准化工作，阿尔特曼透露，他们正在建设一套用于开发具有全球价值观和偏好的AI系统的人际交流平台。此外，他还提出建立一个开放数据库，让人们能够根据这些数据库调整他们的人工智能系统，并共同分享关于AI安全方面的研究成果。
