2025-01-29 手机 0
经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼（Sam Altman），6月10日首次“云”上参与了在中国举行的行业峰会——第五届北京智源大会。北京智源大会是由智源研究院主办，聚焦人工智能领域的专业交流活动，汇集了国际顶尖学者，如张宏江、黄铁军等。
萨姆·阿尔特曼在峰会上发表主题演讲，讨论了AI安全与对齐的问题。他强调，在全球范围内推进AGI安全治理至关重要，这需要国际科技界展开合作。萨姆·阿尔特曼提到，就像过去人类为了根除疾病和减少气候变化而合作一样，现在也需要全球联合起来，以确保人工智能发展既有益于人类，又不带来风险。
他还指出，要解决这一问题，还需要尊重和保护知识产权，同时引导相关投资以支持安全研究。在他的看来，建立包容性的国际标准，并通过可验证方式构建信任，是实现这一目标的关键步骤。
此外，萨姆·阿尔特曼还谈到了OpenAI当前面临的一个挑战，那就是如何训练优化模型，使得AI系统成为人类有益且安全的助手。在与智源研究院理事长张宏江对话时，他提到了过去六个月中人们对于AGI风险和机遇越来越重视，并表示OpenAI正努力让技术变革带来的益处同时减轻风险，但这仍然是一个全球合作难题。
最后，他强调虽然技术参与很重要，但更关键的是保持一致的价值观。因此，OpenAI正在设计一个公平、包容且具有代表性的系统，以监测符合用户规范的情况。这将包括构建安全的分类器和检测器，以确保所有使用的人都能从中受益，而不会受到威胁。
