智慧之光照耀中华OpenAI CEO在中国的首次演讲点亮科技之光温暖人心

在6月10日举办的2023智源人工智能大会上，OpenAI创始人Sam Altman以视频连线的方式现身于北京，这是Altman首次对中国观众发表演讲。Altman在演讲中引用了《道德经》，谈及大国合作，并强调了AI安全始于足下，每个国家必须进行合作和协调。此后，Altman接受了智源研究院理事长张宏江的一对一问答。

张宏江博士目前担任北京智源人工智能研究院理事长，同时还担任多家公司的独立董事和顾问。他曾任金山集团执行董事及首席执行官兼金山云的首席执行官，是微软亚洲研究院创始人之一。

Altman提到了当前的人工智能影响如此之大的原因，不仅是其影响的规模，也是其进展速度。这同时带来红利和风险。随着日益强大的AI系统出现，全世界合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进AGI安全是我们需要找到共同利益点最重要的一个领域之一。

对于“AI对齐”这个问题，即要求AI系统目标与人类价值观与利益相对齐（保持一致），GPT-4花了八个月时间完成这一工作，但相关研究仍在升级，主要分为扩展性和可解释性两方面。

十年内人类将拥有强大的人工智能系统（AI System）。关于开源模型的问题，没有相关新信息。看明白神经网络比看明白人类脑子容易多了。在某个时候，将会尝试做GPT-5模型，但不会很快。不知具体何时。要解决这些问题，我们需要非常不同的架构使得AGI更安全，有些可能是在Transformer之后有另一个巨大的飞跃。我认为我们将能够取得一些进展，在解释我们目前各种模型能力方面取得良好进展，让他们更好地向我们解释他们在做什么以及为什么。但如果在Transformer之后有另一个巨大的飞跃，我不会感到惊讶。自从最初的Transformer以来，我们已经改变了很多架构。

未来十年，我们会有非常强大的AI系统，这样的世界里，我认为把这件事（AI安全规则）做好是重要且紧迫的，这就是为什么我呼吁国际社会共同努力的原因。当你思考如何让AGI更加安全时，你应该考虑到它不仅仅是一个技术问题，它也是一个伦理、政治、经济等多方面的问题。如果没有正确处理，这些挑战可能会导致严重后果，比如破坏环境、削弱民主制度或者引发全球冲突等，因此全球性的协作变得至关重要。

关于GPT-5或其他类似的高级别语言模型，当涉及到机器人的时候，就像当初开始的时候一样，对此感兴趣但也遇到了困难。我希望有一天能回到这个领域，因为我认为机器人的发展具有革命性的潜力，可以彻底改变我们的生活方式，但是现在还不是那么简单的事情。不过，现在我们的重点还是要确保所有这些新技术都是为了人类社会好的，而不是作为武器或工具使用它们来伤害人们或破坏社会结构。

最后，在回答是否可以借鉴药物开发中的测试框架时，他表示，从不同行业发展出来的一些许可和测试框架中可以借鉴很多东西。但他认为，从根本上说，我们已经有了一些可以奏效方法。他提出，要想保证任何一个强大的模型都经过充分的事先评估并被用于改善而非损害公众福祉，就需要建立一种新的监管体系，该体系能够控制哪些机构获得该技术，以及如何有效地监督使用以防止滥用。此外，他建议采取措施保护个人隐私权，使用户能够明确了解自己的数据如何被收集、存储以及用于何种目的，以便维护个人权利不受侵犯。他进一步指出，要促进透明度，同时鼓励负责任地利用这种技术，以实现共享知识产权并减少由于竞争而导致市场集中化，从而避免单一实体掌握过多力量，最终成为独裁者，为全体民众带来不稳定局面，并最终导致整个社会秩序崩溃。这是一场长期而艰苦奋斗，不过这是必要步骤，因为只有这样才能确保这种前沿科技真正服务于所有人的福祉，而不是只服务于少数特定的群体或者利益团体。而这样的梦想，只有人类共同努力才可能实现，所以每个人都应当加入这一伟大旅程，与全世界一起探索怎样通过科学与道德相结合去塑造未来！