2025-01-28 科技 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院的张宏江与Open AI首席执行官Sam Altman进行了深入交流。面对通用人工智能迅猛发展的现状，各国正在努力达成共识并寻求全球合作。对于人工智能安全的关键因素和挑战，张宏江询问阿尔特曼。
在回答中，阿尔特曼强调了技术研究的重要性。他指出：“我们需要不仅关注模型本身，还要考虑整个系统。”他提出了构建在模型上的安全分类器和检测器来监控其使用策略，并不断迭代。
然而，他也认识到这不是一个纯粹技术问题，而是需要跨越不同文化背景下理解用户偏好的复杂议题。“中国拥有世界级的人才，我们需要来自世界各地最优秀头脑解决‘对齐’难题。我希望中国能为这一领域做出巨大贡献。”
“对齐”问题是当前AI行业最热门且紧迫的问题。当建立强大的AGI系统，它们必须按照人类意愿行动，不会自行变异或冲突于人类目标时，这一问题尤为重要。如果没有正确的人类指导，这种系统可能导致灾难性的后果。因此，对这些模型进行训练，是确保它们符合人类意图的至关重要任务。
为了促进国际合作推动更健康的人工智能发展，阿尔特曼表示他们正致力于创建国际标准以保证AI开发过程中的安全，同时也在建设包含全球价值观和偏好的数据库。这有助于人们通过数据库调整AI系统，并共同分享关于AI安全方面的研究成果。
文章字数：476字
