2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能（AGI）的快速发展和全球合作的必要性时，张宏江提出了一个问题：在推动AGI发展的同时，我们应该如何确保人工智能的安全？面对这一挑战，有哪些关键因素和问题需要我们关注？
阿尔特曼表示，对于人工智能安全，我们需要从技术层面着手。除了模型本身的安全性，还必须考虑整个系统的防护措施。“我们可以开发基于AI模型的安全监控工具，以确保其遵循预定的使用策略，并不断迭代改进。”
然而，阿尔特曼也强调，这个问题不仅是技术性的，还涉及到跨文化理解。他认为，“中国拥有一批世界级的人工智能人才。如果要解决目前困扰人工智能领域的问题——即让机器理解并执行人类意图——就需要来自世界各地最优秀头脑的贡献。我希望中国的人才能够为此做出重大贡献。”
“对齐”问题是当前人工智能界的一个热点议题。构建强大的AGI系统，如果它不能按照人类设定的目标运行，那么可能会导致严重后果。在开发这些系统时，就必须确保它们能按人类意愿行动。这意味着通过训练、指导甚至输出结果来调整模型，使之不断展现新能力，同时规避潜在风险。
为了促进国际间更紧密地合作推动AI发展，阿尔特曼宣布正在努力建立一套关于如何安全开发AI系统的国际标准，并建设反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整他们的人工智能应用，也可以共享彼此在这方面取得的心得。”
