2025-01-28 手机 0
北京日报客户端 记者 袁璐
6月10日，在2023年北京智源大会上，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入交流。张宏江提出了一个问题：随着通用人工智能的迅猛发展，各国正在努力建立共识和全球合作框架。在此背景下，人工智能安全的关键因素是什么？我们又该如何应对这些挑战？
面对这一问题，阿尔特曼提出，从技术层面来看，我们需要聚焦于人工智能模型本身的安全性，以及整个系统的安全性。他强调：“我们可以构建在AI模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。”
然而，阿尔特曼也指出，这一问题不仅仅是一个技术难题，还涉及到跨文化理解和不同国家用户偏好的复杂性。“中国拥有世界顶尖的人工智能人才。我相信，只有来自世界各地最优秀头脑的问题解决方案，我们才能真正解决这个困难。”他说。
人工智能系统对齐问题是目前行业关注的热点之一。建立强大的AGI系统，如果它不能按照人类意愿行事，将会导致严重后果，因此必须确保其目标与人类目标保持一致。这要求通过人的指导、训练甚至输出，对模型进行持续优化，以解锁新能力，同时避免误用或故意错误。
为了促进国际合作，阿尔特曼透露，他们正在推动制定国际标准以确保安全开发AI，并建设反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI，也可以共同分享在AI安全方面的研究成果。”
