2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和应对挑战的策略。
阿尔特曼指出，确保人工智能系统的安全性需要技术创新。他提到：“我们可以开发能够在AI模型上运行的安全机制，以监控模型是否符合预定的使用规则，并不断优化。”然而，他也强调了这一问题不仅是技术上的，更是一种文化和政策上的挑战。“不同国家有不同的价值观，我们需要理解并尊重这些差异。”
对于解决“对齐”问题，阿尔特曼认为中国在这方面具有独特优势。他表示：“中国拥有世界上最优秀的人工智能人才。要克服这个难题，我们需要来自世界各地最聪明的人才。我真诚希望中国的人工智能研究人员能做出巨大的贡献。”
"对齐"问题是目前人工智能研究领域的一个热点，它涉及如何设计一个强大但又能够按人类意愿行事的人工智能系统。如果这种系统不按照预期工作或者其目标与人类目标相冲突，那么情况可能会变得非常危险。
为了促进国际合作，阿尔特曼提出了建立一套国际标准来指导安全地开发AI，以及构建反映全球价值观的一套数据库。这将允许人们通过这些数据库调整AI行为，并共享有关AI安全性的研究成果。
