2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能（AGI）的快速发展和全球合作的必要性时，张宏江提出了一个问题：在推动AGI发展的同时，我们应该如何确保人工智能的安全？面对这一挑战，有哪些关键因素和问题需要我们关注？
阿尔特曼表示，对于人工智能安全，我们需要从技术层面着手。除了模型本身的安全性，还必须考虑整个系统的防护措施。“我们可以开发基于AI模型的安全监控工具，以确保其遵循预定的使用策略，并不断迭代改进。”
然而，阿尔特曼也强调，这一问题不仅是技术上的，而是需要跨越文化和国家理解不同用户偏好的复杂议题。他认为：“中国拥有世界领先的人才资源。要解决当前AI系统‘对齐’的问题，就需汇集全球顶尖人才。我期待中国AI研究人员能够做出卓越贡献。”
“对齐”问题是目前人工智能领域最为紧迫和热门的话题。构建强大且符合人类意愿的AGI系统至关重要。一旦系统不按人类设想行事或目标与人类冲突，将会导致灾难性的后果。这意味着在训练这些模型时，我们必须确保它们被正确地“对齐”，即通过人的指导、训练甚至输出调整，使其具备新的能力，同时规避潜在误用。
为了促进国际合作并建立统一的人工智能开发标准，阿尔特曼宣布正在推动建设反映全球价值观的一套数据库。此外，他提倡共享各国在人工智能安全领域取得的成果。“人们可以利用这些数据库来调整他们的人工智能应用，也可以共同分享关于此类技术方面最新研究成果。”
