国家科技成果网官网OpenAI CEO在中国的首次演讲犹如一颗璀璨星辰点亮智慧之海

国家科技成果网官网：OpenAI CEO在中国的首次演讲，启迪智慧之光

6月10日，OpenAI创始人Sam Altman以视频连线方式出现在2023智源人工智能大会，这是Altman对中国观众的首次演讲。Altman引用《道德经》，强调大国合作的重要性，并指出AI安全需要国际合作与协调。

智源研究院理事长张宏江博士提问了多个问题，包括AGI（通用人工智能）何时到来、风险如何评估、不同国家在AGI安全领域的优势以及如何将这些优势结合，以及GPT-5模型是否会迅速出现等。Altman表示未来十年内可能会有非常强大的AI系统，并呼吁国际社会共同努力解决AGI安全问题。他还表明，将来可能需要新的架构来使AGI更安全，更易于检查。

关于GPT-4和AI安全的问题上，Altman解释了他们正在做的是扩展性和可解释性的研究。对于应用这种方法到生物神经元的问题，他认为在人工神经元上观察发生了什么比在生物神经元上容易得多。

对于控制模型数量的问题，Altman认为控制模型数量是否更安全是一个复杂的问题，而他更关心的是建立一个能够让任何一个强大的模型都经过充分安全测试的系统，以及确保那些创造出足够强大模型的人有资源也有责任来保证其创造出的东西是安全且对齐人类价值观。

此次交流结束后，张宏江感谢Sam Altman抽时间参加并希望未来的会议中能有更多深入的讨论。