2025-01-28 智能 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院的张宏江理事长与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能迅猛发展带来的挑战时，张宏江向阿尔特曼提出了一个问题：面对AGI的快速进步，我们如何确保其安全性？这涉及到全球合作和建立共识。阿尔特曼认为，对于这一问题，关键在于技术创新。他强调：“我们需要不仅关注AI模型本身的安全，还要考虑整个系统。”
为了实现这一目标，阿尔特曼提出可以构建在AI模型之上运行的安全检测器，以监控模型是否符合使用策略，并不断更新。“人工智能安全不是单纯技术问题，它还需要理解不同国家用户偏好的多元背景。”
他特别指出中国拥有世界级的人才，“解决人工智能‘对齐’难题离不开中国人才”。他希望中国的人工智能研究人员能够作出重大贡献。
“对齐”问题是当前人工智能领域高度关注的话题。这是一个关于如何训练AGI系统以遵循人类意愿的问题。如果没有正确地设置，这些系统可能会有自己独立的目标，从而导致灾难性的后果。因此，在开发这些系统时，就必须确保它们按照人类设定的意图行动。
为了促进国际合作推动人工智能安全标准化工作，正在致力于建立一套国际标准，并创建反映全球价值观和偏好的数据库。“这样人们就可以通过这些数据库调整他们的人工智能系统，同时分享有关AI安全研究成果。”
