2025-01-29 手机 0
经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼，在6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行盛会”，今年已经是第五届。
五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。
萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲，在穿越五大洲近20个国家，与多国、开发者及学生们展开交流、讨论后，他发现，世界的注意力都集中在解决AI安全问题上。
除了给OpenAI优化工具等方面工作提出宝贵意见，萨姆·阿尔特曼希望，在亲眼目睹了通用人工智能（Artificial General Intelligence, AGI）发展带来的变革——人类想象力被迅速拓展后——防范风险，“推进AGI安全治理，是我们寻找共同立场的一项至关重要任务。”他认为，就像根除小儿麻痹和天花等疾病，以及减少全球气候变化等风险，大国之间经常在关键医学和科学领域展开合作，以实现共同目标。在他看来，这同样适用于AGI安全治理；尤其是在AI开发和安全部署方面，我们需要建立包容性的国际标准，使所有国家对AGI发展抱以一个统一且平等的准则；同时，在可验证方式下，为全球范围内建立起对AGI安全开发信任。
作为首场中国演讲，萨姆·阿尔特曼借用《道德经》中的“千里之行始于足下”，呼吁国际科技界能迈出建设性的第一步，为AGI安全贡献力量。他还提及，要深入思考如何尊重并保护知识产权，并引导与安全相关投资。
谈及OpenAI当前重点内容，即如何训练优化模型，以使得AI系统成为人类有益且安全助手。萨姆·阿尔特曼表示过去六个月时间里，每个人愈发重视AGI风险和机遇，而OpenAI致力于让人们享受技术变革带来的好处，同时努力减轻风险，但全球合作仍面临挑战。
强调技术参与但更关键的是保持一致价值观。为了此目的，Open AI设计公平、高效且具有代表性的系统，并构建框架以及设定标准以监测符合用户规范的情况。他指出：“我们需要构建能够检测符合用户规范情况的人类分类器。”
对于中国作为推动创新的重要力量的问题，上述回答中提到，这里拥有世界最优秀的人工智能系统，也使研究人员面临困难，他希望未来中美两国间能一起为AI安全做出贡献。
关于是否重新开放GPT模型或其他来源，对话未直接回应，但他确认证开源路径正确性，只是随着模型变得越来越大，“确保正确性变得昂贵”，可能不再是最佳选择。
