创新是引领发展的第一动力OpenAI CEO首场中国演讲倡导AGI安全治理需科技界携手共进

经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼，在6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行盛会”，今年已经是第五届。

五年前，智源研究院在科技部和北京市的支持下，与北京人工智能领域优势单位共建而成。它汇集了张宏江、黄铁军等国际顶尖人工智能学者，聚焦核心技术与原始创新，以推动人工智能发展政策、学术思想、理论基础、顶尖人才与产业生态创新。

萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲。在他之前遍历全球20个国家，与多国开发者及学生们交流后，他发现，全世界都集中精力解决AI安全问题。他不仅给OpenAI优化工具提出宝贵意见，还希望通过亲眼见证通用人工智能（AGI）带来的变革，以及人类想象力的迅速拓展，防范风险，并认为推进AGI安全治理是最重要的一项任务之一。

萨姆·阿尔特曼举例称，大国间常在关键医学和科学领域合作以实现共同目标，如根除小儿麻痹和天花等疾病，以及减少全球气候变化等风险。在他看来，AGI安全治理同样需要国际合作。尤其是在AI开发和安全部署方面，要建立包容的国际标准，使所有国家对AGI发展抱以一个统一且平等的准则；同时，在可验证方式下，全球范围内建立起对AGI安全开发信任。

作为首场中国演讲，萨姆·阿尔特曼援引《道德经》中的“千里之行始于足下”，呼吁国际科技界能迈出建设性的第一步，将合作推动AGI安全。同时，他也提及，要深入思考如何尊重并保护知识产权，以及如何引导相关投资。

谈及OpenAI当前重点内容，“如何训练优化模型，以使AI系统成为人类有益且安全的助手。”萨姆·阿尔特曼演讲后还与智源研究院理事长张宏江进行了对话。他谈到过去六个月时间里人们愈发重视AGI风险和机遇，而OpenAI正努力让人们享受技术变革带来的益处，同时减轻风险，但全球合作始终是一个难题。

萨姆·阿尔特曼强调，不仅要依托技术消除全球合作障碍，还要为AGI治理系统构建框架和安全标准。他认为，保持一致价值观至关重要，因此设计出公平、高效又具有代表性的系统，是我们需要监测符合用户规范情况的一个方法。最后，他指出中国、美国和欧洲都是推动人工智能创新的三个主要力量，而不同背景下的用户偏好决定了这一目标实现所需融合不同的观念。

针对中国市场，他表示这里拥有世界上一些最优秀的人工智能系统，也面临着解决问题时困难，这使得未来中美两国间的人才可以携手为.AI 安全做贡献。而对于开源模型的问题，他虽然没有直接回答是否重新开放，但表达了对于开源路径正确性的认可，并提出了随着模型规模增长确保正确性成本增加的问题。