2025-01-28 手机 0
北京日报客户端 记者 袁璐
6月10日，在2023年举办的北京智源大会上，AI安全与对齐论坛成为焦点。张宏江，智源研究院理事长和美国国家工程院外籍院士，与Open AI 首席执行官山姆 · 阿尔特曼（Sam Altman）进行了深入交流。
在讨论通用人工智能（AGI）的发展和全球合作时，张宏江提出了一个问题：在AGI迅速发展的今天，我们应该如何确保人工智能的安全？阿尔特曼认为，对于这一问题，有几个关键因素需要考虑。首先，是技术研发。他指出，“我们需要构建能够在AI模型上运行、监控其是否符合使用策略并不断迭代的安全分类器和检测器。”
然而，阿尔特曼也强调了这一问题不仅仅是技术上的挑战，更是一个涉及不同文化背景下用户偏好的复杂议题。“中国拥有世界领先的人才，这些人才对于解决人工智能系统对齐的问题至关重要。我希望他们能做出巨大的贡献。”
人工智能系统对齐问题是当前行业研究的一个热点。要建立一个强大的AGI系统，它必须按照人类意愿行事。如果它的目标与人类目标冲突，那么情况会变得危险。这意味着，在训练这些模型时，我们需要确保它们被正确地“对齐”，即通过人的指导和输出来解锁新能力，同时避免误用。
为了加强国际合作，阿尔特曼透露，他们正在努力推动制定国际标准，以便更安全地开发AI，并创建反映全球价值观和偏好的数据库。这将使人们能够调整AI系统，也可以分享关于AI安全领域的研究成果。
