2025-01-28 手机 0
北京日报客户端记者：李明
6月10日，2023年北京智源大会上，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能的发展和全球合作时，张宏江询问了人工智能安全的关键因素和应对策略。阿尔特曼提出了解决方案，并强调了中国在人工智能人才方面的重要性。
面对急速发展的人工智能挑战，各国正在努力建立共识并促进全球合作。阿尔特曼认为，要确保人工智能安全，我们必须集中研究其安全技术，不仅要考虑模型本身，还要关注整个系统。“我们可以开发能够监控模型是否符合使用策略的分类器和检测器，以便不断迭代。”他指出。
然而，他也强调，解决这些问题不仅是技术问题，还需要跨文化理解不同国家用户的偏好。他赞扬中国拥有世界级的人才：“想要克服将人类意图“对齐”到机器学习算法的问题，我们需要来自世界各地最优秀头脑。我希望中国的人工智能研究人员能做出巨大的贡献。”
“对齐问题”是当前人工智能领域的热点之一。这涉及如何训练一个强大但可控的人类-型AI，使其按照人类意愿行事，而不是产生冲突目标。如果没有正确对齐，这可能导致灾难性的后果。因此，对于AGI系统来说，通过指导、调整甚至输出来解锁新能力，并避免误用，是至关重要的。
为了加强国际合作，阿尔特曼表示他们正在推动制定国际标准以构建更安全的人工智能系统，并创建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI，也可以共同分享关于AI安全研究的小组。”
