智慧的火花在中国舞动OpenAI CEO首次演讲绽放

智慧之火在中国舞动：OpenAI CEO首次演讲绽放

2023年6月10日，OpenAI创始人Sam Altman以视频连线的方式出现在了中国北京举办的2023智源人工智能大会，这是Altman对中国观众发表的首次演讲。Altman在演讲中引用了《道德经》，谈及大国合作，强调AI安全始于足下，各国间必须进行合作和协调。

随后，Altman接受了智源研究院理事长张宏江的一对一问答。在此之前，张宏江博士曾任多家公司的独立董事和顾问，并担任过微软亚洲研究院创始人的职位。他提出了关于全球合作、AGI安全以及模型扩展性和可解释性的问题。

Altman表示当前人工智能影响如此巨大的原因，不仅在于其规模，也是其进展速度。这同时带来红利和风险。随着日益强大的AI系统出现，全球合作的重要性从未如此之大。在一些重要的大事上，如推进AGI安全，我们需要找到共同利益点。

关于GPT-4和AI安全的问题上，Altman指出，对齐仍然是一个未解决的问题。GPT-4花了八个月时间完成对齐方面的工作，但相关研究还在升级，其中主要分为扩展性和可解释性两方面。对于是否有可能需要更改AGI模型基础架构或体系结构以让它们更安全，更容易被检查的问题，上述内容也涉及到这一点。

最后，在讨论控制模型数量是否是可行方向时，上述文章提到了一个可能性，即类似药物开发过程中的许可与测试框架，可以借鉴并应用于人工智能领域，以确保新技术的安全使用。此外，还有其他方法可以通过国际合作来实现这一目标，比如制定严格的人工智能伦理准则，以及加强监管力度等措施。

总结来说，这场第一次直播会议不仅展示了Sam Altman对未来科技发展趋势深刻洞察，同时也揭示了他对于如何应对这些挑战持开放态度，他呼吁国际社会共同努力，为即将到来的强大AI系统做好准备，并了解有关安全问题。