智慧的火花在中国舞动OpenAI CEO首次演讲点亮科技之光

智慧之火在中国舞动：OpenAI CEO首次演讲，点亮科技之光

在2023年的夏季，一场关于人工智能的盛会——智源人工智能大会，在北京举行。这个活动不仅吸引了国内外的技术大师，还特别邀请到了OpenAI创始人Sam Altman。这是Altman第一次向中国的观众发表演讲，他通过视频连线与大家交流。

Altman引用了《道德经》中的名言，强调了大国间合作的重要性。他指出，作为一项全球性的技术，人工智能（AI）的安全问题需要国际社会共同努力解决。他提到：“推进AGI安全是我们需要找到共同利益点的最重要领域之一。”

随后，Altman接受了智源研究院理事长张宏江的一对一问答。在这次互动中，他们探讨了多个方面的问题，从GPT-4如何处理“对齐”问题，再到是否有必要改变AGI模型架构以提高安全性，以及未来的人工智能发展方向等。

对于是否距离通用人工智能（AGI）还有远征路程以及风险紧迫度的问题，Altman回答说：“很难评估具体时间。很可能未来十年我们会有非常强大的AI系统。”他认为，要为即将发生的事情做好准备，并了解有关安全的问题，这就是为什么他呼吁国际社会共同努力的原因。

当被问及如何将不同国家在AGI安全领域内各自优势结合起来时，Altman表示：“无论是从功能角度还是从安全角度来看，我们确实需要一些非常不同的架构，这是完全可能的。” 他还提到他们将继续推进使用更强大的模型帮助理解其他模型工作原理的方法，但并不确定这种方法能否应用于人类的大脑上。

最后，当谈及控制模型数量是否是一个可行方式时，Altman表示：“我认为对于世界上有少数模型还是多数模型更安全，有不同的观点。我认为更重要的是，我们是否有一个系统，可以让任何一个强大的模型都经过充分的安全测试？” 他提醒说，“我们已经有一些可以奏效的方法。”

这一系列讨论展现了一种新的思考模式，即科技发展带来的红利和风险都是全球化合作所需面临的问题。同时，它也揭示了一种可能性，即通过跨学科、跨行业和跨国界的大规模协作，我们能够应对这些挑战，并开辟未知领域，为人类社会带来更多成就和福祉。