2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和应对挑战的策略。
阿尔特曼指出，确保人工智能安全需要两方面的努力：一是技术研究，二是考虑系统整体安全性。他提到：“我们可以在模型上构建安全分类器和检测器，以监控模型是否符合使用规则，并不断迭代。”
然而，阿尔特曼也强调，这个问题不仅仅是个技术问题，还涉及不同国家用户偏好的理解。“中国拥有世界级的人才。解决AI系统对齐问题需要来自世界各地最优秀头脑。我希望中国AI研究人员能做出巨大贡献。”
当前行业面临的一个重要挑战是人工智能系统对齐问题。建立强大的AGI如果没有按照人类意愿行事，将可能导致严重后果，因此训练模型时必须保持与人类意图的一致性。这要求通过指导、输出等方式，不断解锁新能力，同时避免误用或故意滥用的风险。
为了促进国际合作推动健康发展，阿尔特曼透露，他们正在设立国际标准以保证安全开发人工智能，并创建一个反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整AI，也可以共同分享在此领域的研究成果。”
