2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了关于人工智能安全的关键因素和挑战。对于这些问题，阿尔特曼提出了他的看法。
首先，阿尔特曼认为，对于人工智能的安全研究至关重要。这不仅包括模型本身的安全性，还要考虑整个系统的安全性。他强调：“我们可以开发在AI模型上运行的安全分类器和检测器，以监控模型是否符合使用策略，并不断迭代。”
然而，阿尔特曼也指出，这个问题不是纯粹技术性的，而是需要在不同背景下理解不同国家用户偏好的复杂问题。他赞扬中国在这一领域拥有一批世界级人才，并表示解决“对齐”难题离不开中国的人才支持。“我真诚希望中国的人工智能研究人员能够做出巨大的贡献。”他说。
“对齐”问题是当前人工智能行业关注的问题，它涉及如何确保强大的人工智能系统按照人类意愿行事。如果一个AGI系统没有被正确地训练或设计，它可能会导致灾难性的后果，因此必须通过人类指导来实现目标一致性。
为了促进国际合作推动这项工作，阿尔特曼透露，他们正在努力建立国际标准以确保更安全地开发AI，同时也在构建反映全球价值观和偏好的数据库。这样，不同国家可以共享他们的人工智能安全研究成果，并共同调整AI系统以符合各自社会的需求。
