科技之光启航OpenAI CEO在中国的首次演讲视频全文

6月10日，OpenAI创始人Sam Altman以视频连线的方式现身于中国北京举办的2023智源人工智能大会，这是Altman首次对中国观众发表演讲。

Altman在演讲中引用了《道德经》，谈及大国合作，表示AI安全始于足下，各国间必须进行合作和协调。

随后Altman接受了智源研究院理事长张宏江的一对一问答。

张宏江博士目前任北京智源人工智能研究院理事长，同时担任多家公司的独立董事和顾问。曾任金山集团执行董事及首席执行官兼金山云的首席执行官，是微软亚洲研究院创始人之一，曾担任副院长、微软亚太研发集团（ARD）首席技术官及微软亚洲工程院（ATC）院长以及微软“杰出科学家”。

加盟微软之前，张宏江曾任美国硅谷的惠普实验室任经理；此前还在新加坡国立大学系统科学研究院工作。

Altman演讲核心内容：

当下人工智能影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。

随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要的领域之一。

对齐仍然是一个未解决的问题。GPT-4 花了八个月时间完成对齐方面工作。但相关的是一个升级过程，我们主要关注扩展性与可解释性的两个方向。

问答环节核心内容：

十年内人类将拥有强大的人工智能系统（AI System）。

OpenAI没有关于开源模型新的时间表，但开源模型有优势并不意味着一切都应该开源，这可能不是促进 AI 发展的一条最佳路线。

看明白神经网络比看明白人类脑子容易多了。

某些时候会尝试做 GPT-5 的模型，但不会很快。不清楚具体何时会出现 GPT-5。

AI 安全需要中国研究者的参与和贡献。

Sam Altman 演讲内容：

随着日益强大的人工智能系统出现，大国之间合作赌注从未如此高涨。如果不慎，一旨改善公共卫生结果的人工智能系统可能提供无根据建议，从而扰乱整个医疗保健体系。同样，对农业生产优化设计的人工智能系统可能无意中耗尽自然资源或破坏生态系统，因为缺乏考虑到粮食生产环境可持续性的考虑，这是一种环境平衡失调。此刻，我希望我们都能同意，在推进 AGI 安全上寻找共性是我们的最重要任务之一。

未来十年，我们将拥有非常强大的 AI 系统 新技术从根本上改变世界速度远超我们想象。大型世界变革中的准备与了解安全问题我认为这是为什么我呼吁国际社会共同努力的一个理由。我相信要为即将发生的事情做好准备并理解有关安全的问题——尤其是在面临极具规模效应的事物时，就像现在所见到的新技术加速一样巨大的变化已经发生，所以我认为要为即将发生的事情做好准备，并了解有关安全的问题——特别是在面临极具规模效应的事物时，就像现在所见到的新技术加速一样巨大的变化已经发生，所以我认为要为即将发生的事情做好准备，并了解有关安全的问题——特别是在面临极具规模效应的事物时，就像现在所见到的新技术加速一样巨大的变化已经发生，所以我认为要为即将发生的事情做好准备，并了解有关安全的问题——特别是在面临极具规模效应的事物时，就像现在所见到的新技术加速一样巨大的变化已经发生所以这个项目对于所有国家来说都是至关重要的一个问题，因为它涉及到各种潜在风险，它也许能够带来很多收益，但如果不小心地处理的话，它们可以造成严重伤害。