2025-01-29 手机 0
经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼，在6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行盛会”，今年已经是第五届。
五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。
萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲，在穿越五大洲近20个国家，与多国、开发者及学生们展开交流、讨论后，他发现，世界的注意力都集中在解决AI安全问题上。
除了给OpenAI优化工具等方面工作提出宝贵意见，萨姆·阿尔特曼希望，在亲眼目睹了通用人工智能（Artificial General Intelligence, AGI）发展带来的变革，人类想象力被迅速拓展后，他认为防范风险，“推进AGI安全治理，是我们寻找共同立场最重要的一环。”
他还强调：“像根除小儿麻痹和天花等疾病，以及减少全球气候变化等风险，大国之间经常合作，以实现共同目标。在我看来，这同样适用于AGI安全治理，我们需要建立包容性的国际标准，使所有国家对AGI发展抱以一个统一且平等的事实。”同时，他提出了全球范围内建立信任机制，让不同国家能接受并遵循相同的人类价值观。
作为首场中国演讲时，加以《道德经》中的寓意——千里之行始于足下——萨姆·阿尔特曼呼吁国际科技界迈出建设性的第一步，并建议尊重知识产权，同时引导投资去思考如何推动相关研发。他还指出要让模型成为有益又可靠的人类助手，而不是造成危险或损害。
谈及当前OpenAI主要关注的问题——训练优化模型使其成为人类有益且安全助手——他表示过去六个月里人们对于通用人工智能（AGI）的潜在风险和机会更加敏感，但他也意识到全球合作仍然面临挑战。尽管如此，他们依然试图通过设计框架和标准来确保这些系统能够操作良好，同时保持一致的情感价值观。为了做到这一点，他们正在构建公平且具有代表性的分类器以及检测器来监测用户规范符合的情况。此外他们坚持相信开放性路径对于改善模型性能至关重要，即便它们变得更复杂也不例外。但同时也必须考虑成本问题，因为正确性得以保证变得越来越昂贵，所以并不总是最好的选择。
