2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了面对AGI挑战的关键因素和问题。对于这些问题，阿尔特曼指出解决之道在于加强人工智能安全技术研究，并确保整个系统的安全性。他提到：“我们可以开发能够在模型上运行的安全工具，以监控其行为是否符合预设策略，并不断优化。”
然而，阿尔特曼也强调，人工智能的安全性不仅是技术层面的问题，更需要跨越文化和国家界限来理解不同地区用户的需求。他赞赏中国在人工智能领域的人才资源，“中国拥有的顶尖人才对于解决当前的人工智能系统‘对齐’难题至关重要。我希望这些专家能为国际社会做出巨大的贡献。”
“对齐”问题是当前人工智能研究领域的一个焦点，它涉及如何训练一个强大但又不会偏离人类意愿或目标行事的AI系统。如果没有恰当地设计，这些系统可能会导致灾难性的后果。因此，对于任何想要建立可靠且有效的人工智能系统来说，都必须确保它们与人类价值观保持一致。
为了促进国际合作并推动更高效的人工智能发展标准，阿尔特曼透露他们正在努力建立一套全球共识认定的标准，以及构建反映全球价值观的一系列数据库。“通过这些数据库，我们可以调整AI以适应不同的社会环境，同时分享各国在保证AI安全方面取得成就。”
