亚马逊云科技启航OpenAI CEO首次中国演讲呼吁国际科技联手保障AGI安全治理

经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼（Sam Altman），6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院（全称：北京智源人工智能研究院）主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行盛会”，今年已经是第五届。

五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。

萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲，在穿越五大洲近20个国家，与多国、开发者及学生们展开交流、讨论后，他发现，世界的注意力都集中在解决AI安全问题上。

除了给OpenAI优化工具等方面工作提出宝贵意见，萨姆·阿尔特曼希望，在亲眼目睹了通用人工智能（Artificial General Intelligence, AGI）发展带来的变革——人类想象力被迅速拓展后——防范风险，“推进AGI安全治理，是我们寻找共同立场的一项至关重要任务。”他强调，这需要国际科技界展开合作，以建立包容且可验证方式下的全球标准，使所有国家对AGI发展抱以统一且平等的心态。

作为首场中国演讲，萨姆·阿尔特曼借用《道德经》中的名言：“千里之行始于足下”，呼吁国际科技界迈出建设性的第一步，并提倡尊重知识产权，同时探索引导相关投资方向。他还指出，要深入思考如何让模型成为人类有益又安全的情感助手，并表达了对过去六个月期间人们对于AGI风险和机遇加倍重视感到欣慰，但同时也意识到了全球合作面临挑战。

谈及当前OpenAI重点内容，即训练优化模型以使其成为人类有益且安全的情感助手时，他分享了与智源研究院理事长张宏江就此进行深入探讨。他们共同认识到，不仅要消除技术障碍，还需保持一致价值观来构建一个公平并具有代表性的系统，以及设计分类器和检测器以监测符合用户规范的情况。

中国作为世界上最具创新的三大力量之一，其独到的见解对于促进全球合作至关重要。在回答是否将GPT模型重新开放的问题时，他没有直接回应，但赞同开放路径并承认随着模型规模增加，对确保正确性变得更加昂贵，而简单开启可能并不总是最佳选择。