2025-01-28 智能 0
未来世界：OpenAI CEO首次中国演讲，照亮智慧之路
在2023年6月10日，OpenAI创始人Sam Altman以视频连线的方式出现在北京举办的2023智源人工智能大会，这是Altman对中国观众的首次演讲。Altman引用了《道德经》，强调了大国合作对于确保人工智能安全至关重要。他还接受了智源研究院理事长张宏江的一对一问答。
张宏江博士目前担任北京智源人工智能研究院理事长，同时也是多家公司独立董事和顾问。他曾在微软亚洲研究院担任创始人、副院长，并在微软亚太研发集团（ARD）担任首席技术官。此前，他还曾在新加坡国立大学系统科学研究院工作。
Altman提出了当前人工智能影响巨大的原因，不仅是其影响范围广泛，而且进展速度快。这也带来了红利和风险。在一些关键领域，大国间必须进行合作与协调，以推进高级一般性的人工智能（AGI）的安全性。这是一个需要各方找到共同利益点并共同努力解决的问题。
随后，Altman谈到了“对齐”问题，即要求AI系统目标与人类价值观相一致。GPT-4花费八个月时间完成对齐任务，但相关研究仍然不断升级，主要集中于扩展性和可解释性两个方面。
会话中，还讨论了十年内人类将拥有强大的AI系统以及OpenAI未来的开源计划。虽然没有提供具体时间表，但认为开源模型具有优势，但不是促进AI发展的最佳途径。另外，对于未来是否会出现GPT-5模型，Altman表示不会很快，而对于如何让AGI更安全，他提到可能需要非常不同的架构来实现这一目标。
关于下一步AGI方向，以及是否会有机器人的探索，Altman表示他们正在探索各种可能性，并且希望能够回到这个领域。此外，他们正在继续开发使模型更安全的方法，并且这些方法可以应用于更复杂的人类大脑理解上。但他认为直接将这种方法应用到生物神经元上可能不那么容易。
最后，当谈及控制模型数量以提高安全性的可能性时，Altman提出了一种框架，即任何一个强大的模型都应该经过充分的安全测试，而不是单纯地限制模型数量。他认为，从其他行业如药物开发中借鉴许可和测试框架是一种有益的做法。而张宏江则提议从MIT未来生命研究所教授Max所提出的类似药物开发流程中学习，以便制定更加严格的人工智能产品发布标准。
