全球公敌之黑科技教父开讲AGI安全共治需科技界联手抗议

经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼，在6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行盛会”，今年已经是第五届。

五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，以推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。

萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲。在穿越五大洲近20个国家，与多国、开发者及学生们展开交流后，他发现，全世界都聚焦于解决AI安全问题。他不仅给OpenAI优化工具等方面工作提出宝贵意见，还希望通过亲眼见证通用人工智能（Artificial General Intelligence, AGI）发展带来的变革，以及人类想象力被迅速拓展后防范风险，“推进AGI安全治理，是我们寻找共同立场最重要的一块土地。”

他提到，就像根除小儿麻痹和天花等疾病，以及减少全球气候变化等风险，大国之间经常合作以实现共同目标。在他看来，AGI安全治理同样需要国际合作。尤其是在AI开发和安全部署方面，要建立包容性的国际标准，使所有国家对AGI发展抱以一个统一且平等的心灵；同时，在可验证方式下，为全球范围内建立起对AGI安全开发信任。

作为首场中国演讲，萨姆·阿尔特曼借用《道德经》中的“千里之行始于足下”，呼吁国际科技界能迈出建设性的第一步，并合作推动AGI安全。同时，他也强调要深入思考如何尊重和保护知识产权，并引导与安全相关投资。此外，他还谈及当前OpenAI重点内容，即训练优化模型，使得这些系统成为人类有益且安全的人类助手。

随后，与智源研究院理事长张宏江进行对话时，他表示过去六个月时间里，对于AGI风险和机遇重视程度加剧。OpenAI努力让人们享受技术变革带来的益处，同时减轻风险，但全球合作仍面临挑战。他认为，虽然需要依赖技术消除障碍，但更关键的是保持一致价值观，因此设计公平、高效具有代表性的系统，以监测符合用户规范的情况。

对于中国、中美欧三者的关系以及如何解决此问题的问题点上，当问及关于是否存在不同背景下的用户偏好融合优势时，萨姆·阿尔特曼指出：“不同的背景提供了不同的视角，我们可以从中学习。”他希望未来中美两国间能够一起为这项任务做出贡献。

最后，对于GPT模型是否重新开放的问题，没有直接回答，而是表达了对于开源路径正确性认可，并指出随着模型规模扩大，其正确性保证成本增高，这可能不是最佳路径。