2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江提出了一个问题：在AGI急速发展的今天，有哪些关键因素和挑战需要关注？如何应对这些威胁？
阿尔特曼认为，首先要加强人工智能安全技术研究。行业不仅要考虑模型本身的安全性，还要确保整个系统的安全性。他提出可以构建在AI模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。
然而，阿尔特曼也指出，人工智能安全不仅是技术问题，更需要理解不同国家用户的偏好。“中国拥有世界上最优秀的人工智能人才。如果想要解决人工智能系统‘对齐’难题，就必须汇集来自世界各地最佳头脑。我希望中国的人工智能研究人员能够做出巨大的贡献。”
“对齐”问题是当前AI行业最紧迫的问题之一。建立强大且按照人类意愿行事的AGI系统至关重要。如果没有适当的人类调教和指导，这种系统可能会产生灾难性的后果。因此，在训练这样的系统时，我们需要确保它们符合人类意图——通过调整输出、解锁新能力并避免误用。
为了促进国际合作推动这一目标前进，阿尔特曼宣布正在努力制定国际标准以保证开发出更为安全的人工智能，同时建设数据库来反映全球价值观。这意味着人们可以利用这些数据库调整AI行为，并共同分享关于AI安全方面的研究成果。
