智能时代的共创OpenAI CEO在中国的首次演讲呼吁国际科技界联手保障AGI安全治理

经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼（Sam Altman），6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院（全称：北京智源人工智能研究院）主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行盛会”，今年已经是第五届。

五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。

萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲，在穿越五大洲近20个国家，与多国、开发者及学生们展开交流、讨论后，他发现，世界的注意力都集中在解决AI的安全问题上。

除了给OpenAI优化工具等方面工作提出宝贵意见，萨姆·阿尔特曼希望，在亲眼目睹了通用人工智能（Artificial General Intelligence, AGI）发展带来的变革，人类想象力被迅速拓展后，他强调，“推进AGI安全治理，是我们寻找共同立场的一项重要任务。”他认为，这就像是在关键医学和科学领域的大国间合作，以实现共同目标一样。在他看来，只有通过建立包容性的国际标准，并且全球范围内建立信任机制，我们才能确保AGI发展既有利于人类，又不危害社会秩序。

作为首场中国演讲，萨姆·阿尔特曼提出了一个深刻的问题：“千里之行始于足下”，呼吁国际科技界能迈出建设性的第一步，而这需要的是尊重知识产权，同时也要引导相关投资，为AGI安全提供坚实保障。他还指出，要让所有国家能够享受并贡献到这一过程中，而不是单边行动或竞争，因此开放性和公平性至关重要。

谈及OpenAI当前最关注的事宜，即如何训练模型以使其成为人类有益且安全的人类助手。萨姆·阿尔特曼表示，他们正在努力消除全球合作中的障碍，使得人们能够从技术变革中受益，同时减轻潜在风险。他强调，“保持一致价值观”对于构建可靠的人类-机器协作至关重要，这意味着设计出公平、高效且代表性的系统，以及监测符合用户规范的情况。

最后，当问及未来中美两国如何协同工作以促进AI技术研发时，他表达了对两国合作潜力的乐观态度，因为他们都拥有领先的人工智能技术，而且可以互相学习，从而为整个行业带来更好的发展。然而，对于是否重新开放GPT模型的问题，他没有直接回应，但他承认开源路径对于模型改进具有重要意义，只是随着模型规模增长，其正确性保证成本增加，也许并不总是最佳选择。