2025-01-29 手机 0
经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼，在6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行盛会”，今年已经是第五届。
五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。
萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲。在他看来，无论是在全球范围内解决通用人工智能（AGI）带来的变革问题还是减少风险，他都认为人类需要展开合作。就像根除小儿麻痹和天花等疾病，以及减少全球气候变化一样，大国之间经常在关键医学和科学领域展开合作，以实现共同目标。在他眼中，AGI安全治理同样需要国际合作。
尤其是在AI开发和安全部署方面，要建立包容的一致标准，使所有国家对AGI发展抱以一个统一且平等的准则；同时，在可验证方式下，全局范围内建立起对AGI安全开发信任。他强调：“千里之行，始于足下”，呼吁国际科技界能迈出建设性的第一步，将这一愿景转化为实际行动。
谈及OpenAI当前重点内容，“如何训练优化模型，以使AI系统成为人类有益且安全的助手。”萨姆·阿尔特曼演讲后还与智源研究院理事长张宏江进行了深入探讨。他谈到过去六个月时间里，对于AGI风险和机遇的人们越发重视，并指出尽管人们享受技术变革带来的益处，但也努力减轻风险。然而，“全球合作始终是困难”。
为了应对这些挑战，他提出了构建一个框架和安全标准以确保开放系统能够持续运行。此外，他还强调要保持一致价值观，为此设计出公平、包容又具有代表性的系统。“我们需要构建安全分类器并检测器，以监测符合用户规范的情况。”
对于未来SAAM希望中国与美国以及欧洲三方能携手合作解决AI需求的问题时，他表示，这些不同背景下的用户偏好融合将帮助实现这一目标。而对于是否重新开放GPT模型的问题，由于模型变得越来越大保证正确性变得昂贵，因此并不一定选择开源路径。
