数据海洋的航行者OpenAI CEO在中国的首次演讲

数据海洋的航行者：OpenAI CEO在中国首次演讲

2023年6月10日，OpenAI创始人Sam Altman以视频连线的方式出现在中国北京举办的2023智源人工智能大会，这是Altman对中国观众的首次演讲。Altman引用了《道德经》，谈及大国合作，并强调AI安全始于足下，各国必须进行合作和协调。

随后，Altman接受了智源研究院理事长张宏江的一对一问答。张宏江博士是北京智源人工智能研究院理事长，同时担任多家公司的独立董事和顾问。他曾任金山集团执行董事及首席执行官兼金山云的首席执行官，是微软亚洲研究院创始人之一。

在演讲中，Altman提到当前的人工智能影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。随着日益强大的AI系统出现，大国间合作从未如此重要。在一些重要的大事上，各国必须进行合作和协调，以推进AGI（通用人工智能）安全，为此找到共同利益点至关重要。

关于GPT-4模型与对齐问题，上述内容指出GPT-4花费八个月时间完成对齐工作，但相关研究仍然在升级，其中主要分为扩展性和可解释性两方面。

对于GPT-5模型的问题上，Sam Altman表示虽然他们会尝试做一个GPT-5模型，但不会很快出现，他不知道具体什么时候。而对于将这些优势结合起来解决AGI安全问题，他认为需要非常不同的架构使得AGI更安全，并且可能会有新的飞跃，比如Transformer之后又有另一个巨大的飞跃。

最后，在回答是否控制模型数量可以提高安全性的问题时，Sam Altman提出了不同意见，即控制模型数量不一定能保证更高安全性，而他认为更关键的是建立一个能够让任何一个强大的模型经过充分测试并确保其安全性的系统，以及资源与责任相匹配的情况。此外，他也提出，从其他行业发展出来的许可和测试框架中借鉴很多东西，对于提高AI技术整体水平具有启发意义。