2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了面对AGI挑战的关键因素及问题。阿尔特曼指出，确保人工智能安全需要两方面的努力：一是提升模型本身的安全性；二是构建整个系统的安全防护机制。“我们可以开发在AI模型上运行的检测工具，以监控其行为是否符合设计策略，并不断迭代改进。”
然而，阿尔特曼强调，这一领域不仅仅是个技术难题，还涉及到理解不同国家用户偏好的复杂性。他赞扬中国在人工智能领域拥有一流人才，并认为解决AI系统“对齐”问题所需的是来自世界各地顶尖人才的协同创新。“我希望中国的人工智能研究者能做出巨大的贡献。”
当前，对于如何使AI系统按照人类意愿行事而不是导致冲突，是行业内最重要且紧迫的问题。因此，在训练AGI时，我们必须确保它们能够被精细地指导和调整，以避免潜在风险并释放新能力。
为了促进国际合作共赢，阿尔特曼宣布将推动建立国际标准以保障人工智能开发过程中的安全，同时构建一个反映全球价值观和偏好的数据库。“这些数据库可以帮助人们调整AI系统，也为分享相关的人工智能安全研究提供平台。”
