2025-01-29 手机 0
经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼，在6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行盛会”，今年已经是第五届。
五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，以推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。
萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲。在穿越五大洲近20个国家，与多国、开发者及学生们展开交流后，他发现，全世界都聚焦于解决AI安全问题。他不仅给OpenAI优化工具等方面工作提出宝贵意见，还希望通过亲眼见证通用人工智能（Artificial General Intelligence, AGI）发展带来的变革，以及人类想象力的迅速拓展来防范风险。他的强调点是：推进AGI安全治理，是我们寻找共同立场最重要的一块土地。
他举例称，大国之间经常合作以实现关键医学和科学目标，就像根除小儿麻痹和天花，以及减少全球气候变化这样的风险一样。在他看来，AGI安全治理同样需要国际合作——尤其是在AI开发和安全部署方面，要建立包容性的国际标准，使所有国家对AGI发展抱以统一且平等的心态；同时，在可验证方式下，全世界范围内建立起信任，对AGI安全开发的一致准则。
作为首场中国演讲，萨姆·阿尔特曼援引《道德经》中的“千里之行始于足下”，呼吁国际科技界迈出建设性的第一步，为推动AGI安全贡献力量。他还提到，要深入思考如何尊重并保护知识产权，并引导相关投资促进与安全研究相结合。
谈及OpenAI当前重点内容，“如何训练优化模型，让AI系统成为人类有益且安全的手段。”萨姆·阿尔特曼演讲后还与智源研究院理事长张宏江进行了对话。在过去六个月里，他说人们愈发重视AGI风险机遇，而OpenAI努力让技术变革带来的益处，同时减轻风险，但全球合作仍然面临挑战。
萨姆·阿尔特曼强调，即使依托技术消除全球障碍，也要构建一个框架和标准来保障AGI治理系统。他认为，虽然需要技术参与，但更为关键的是保持一致价值观。他希望设计出公平包容又具有代表性的系统，“我们需要构建能够监测符合用户规范情况的分类器和检测器。”
中国美国欧洲三方都是推动人工智能创新的主要力量。当问及不同背景下的用户偏好融合对于解决需求决策所具备怎样的优势时，他表示，这些差异性将帮助他们实现目标。针对中国，他指出这里拥有最优秀的人工智能系统，但也面临着困难，比如研发人员面临的问题；他希望未来中美两国能携手为此做出贡献。
关于是否重新开放GPT模型，这个问题没有直接回答。但他认可开源路径，并指出了随着模型变得越来越复杂正确性的成本增高可能不是最佳选择。这表明即便考虑开放性，也不能忽视正确性的重要性。
