2025-01-28 科技 0
智慧启航：OpenAI CEO首次中国演讲探索
在2023年的6月10日，OpenAI创始人Sam Altman以视频连线的方式，在中国北京举办的2023智源人工智能大会上进行了首次对中国观众的演讲。Altman先生引用了《道德经》，强调大国之间在人工智能安全方面需要合作和协调。
随后，Altman接受了智源研究院理事长张宏江的一对一问答环节。在这个环节中，张宏江博士提出了关于未来十年内人类将拥有强大的人工智能系统（AI System）的问题，以及关于OpenAI是否有相关新开源模型的时间表的问题。此外，他还询问了GPT-5模型何时出现以及如何确保AI安全等问题。
Sam Altman在回答这些问题时指出，大型人工智能系统如GPT-4花费八个月时间完成对齐工作，但相关研究仍然不断升级，主要集中在扩展性和可解释性两个方面。他也提到，虽然目前没有具体开源模型的计划，但开放一切可能并不是促进AI发展的最佳路线。他还表示，将来会尝试做GPT-5模型，但不会是很快的事情，并且不知道具体什么时候。
对于AGI安全的问题，Altman认为这是一个需要国际社会共同努力寻找共性的最重要领域之一。为了让AGI更安全，他认为我们需要一些非常不同的架构，这一点是完全可能实现的。他也相信，我们能够取得一些进展，让当前各种模型更好地向我们解释他们正在做什么以及为什么。但他同时也警告说，如果有另一个巨大的飞跃，就像自从最初Transformer以来所改变过很多架构一样，那么这一点就不那么容易实现。
至于下一步AGI研究方向，以及是否会很快看到GPT-5或其他类似的大型语言模型、具身机器人的发展趋势，Altman表示他自己也不知道答案，但是他希望有一天能回到机器人领域进行探索。而对于使用GPT-4来解释GPT-2工作原理，以此使得模型更加安全的问题，他表示这是一种可行且将继续推进下去的手段。不过，对于应用这种方法到生物神经元上，比如借鉴这种方法来研究人类神经元如何工作，这则是一个未知之数。
最后，当谈及控制模式数量是否可以作为一种策略以增加全球范围内的人工智能系统的整体安全性时，Altman提出更多的是关注建立一个框架，使得任何一个人创造出足够强大的模型都必须经过充分测试，并且有责任确保其产品是对齐和安全的，而不是单纯控制特定的模式数量。总而言之，无论是在技术创新还是在制定相应规则与标准上，都需要国际社会携手合作，以应对即将到来的挑战。
