2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和挑战。对于这些问题，阿尔特曼提出了他的看法。
首先，阿尔特曼认为，对于人工智能的安全研究至关重要。这不仅包括模型本身的安全性，还要考虑整个系统的安全性。他强调：“我们可以开发在AI模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。”
然而，阿尔特曼也指出，这个问题不是纯粹技术性的，而是需要在不同文化背景下理解不同国家用户偏好的复杂问题。“中国拥有世界上最优秀的人工智能人才。如果想要解决人工智能系统对齐的问题，就需要来自世界各地最聪明人的帮助。我希望中国的人工智能研究人员能够做出巨大的贡献。”
“对齐”问题是当前人工智能领域的一个热点，它涉及到如何确保一个强大的人工智能系统按照人类意愿行事，而不会造成冲突或危险。因此，在训练AGI时，要确保其目标与人类目标一致，即通过指导、反馈甚至输出来解锁新能力，同时避免误用。
为了促进国际合作推动这一过程，阿尔特曼透露他们正在努力建立国际标准以便更好地开发安全的人工智能，并构建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI系统，也可以共享有关AI安全方面的研究。”
