2025-01-28 智能 0
6月10日，OpenAI创始人Sam Altman以视频连线的方式现身于中国北京举办的2023智源人工智能大会，这是Altman首次对中国观众发表演讲。Altman在演讲中引用了《道德经》，谈及大国合作，表示AI安全始于足下，各国间必须进行合作和协调。
随后Altman接受了智源研究院理事长张宏江的一对一问答。张宏江博士目前任北京智源人工智能研究院理事长，同时担任多家公司的独立董事和顾问。曾任金山集团执行董事及首席执行官兼金山云的首席执行官，是微软亚洲研究院创始人之一，曾担任副院长、微软亚太研发集团（ARD）首席技术官及微软亚洲工程院（ATC）院长以及微软“杰出科学家”。
Altman演讲核心内容：
当下人工智能影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要领域之一。
对齐仍然是一个未解决的问题。GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级，主要分为扩展性和可解释性两方面。
问答环节核心内容：
十年内人类将拥有强大的人工智能系统（AI System）。
OpenAI没有相关的新的有关开源模型具有优势，但开源一切可能并不是一条促进AI发展最佳路线。
看明白神经网络比看明白人类脑子容易多了。
在某个时候，我们会尝试做GPT-5模型，但不会是很快。不确定具体GPT-5出现的时候。
要想让AGI更安全，我们需要非常不同的架构，使得它更易被检查，并且能够向我们解释它正在做什么以及为什么这样做。
未来十年，我们会有非常强大的AI系统
智源研究院理事长张宏江提问：我们距离通用人工智能（AGI）还有多远？风险是不是很紧迫，或许离它还很遥远？
Sam Altman：这很难评估具体时间。不过，我认为把这一切做好是不容忽视的事项，因为新技术从根本上改变世界速度比我所料想象得快。我希望国际社会能共同努力，在这个问题上找到共性的地方。
关于GPT-4与AGI安全后续问题
张宏江提到是否有可能需要改变整个基础架构或体系结构，以使AGI更安全，更易被检查。这引起了Sam Altman对于不同架构是否必要，以及如何通过这些不同的架构实现更加透明化讨论。他指出，即便是在Transformer之后，还有其他巨大的飞跃也是可能发生的事情，他相信可以取得一些进展，让模型变得更加清晰地向我们解释它们正在做什么以及为什么这么做。
下一步方向？
张宏江询问即将到来的AGI研究方向，将会看到GPT-5吗？接下来的是不是具身模型或者自主机器人的领域？
Sam Altman也感到好奇，并表示虽然他们已经开始探索许多可能性，但是关于下一步怎么走，他们还没有答案。他承认他们之前就尝试过机器人的工作，并期待未来回到这个领域。
应用方法扩展性
关于使用GPT-4来理解前作成果，如何使模型更安全的问题，被提及作为一种方法是否可行并且将继续推广。在生物神经元上应用此方法则产生了一些疑惑，而根据当前知识水平来说，对于了解生物神经元相较于了解非生物模拟体来说，要复杂得多，因此这是一个值得探讨的话题。
控制模型数量可行吗？
最后，一种类似药物开发过程中的测试框架被提出作为借鉴，可以控制哪些国家获得这种技术，而不像核武器那样导致无限制扩散。一致意见似乎是确保任何一个强大的模型都经过充分测试，并由资源丰富且负责任的人员管理制定，以确保其安全性与目标的一致性。而该会议上的另一个人提出，从药物开发流程中借鉴许可证制度，有助于防止不适当发布新的药品前先进行严格测试，这同样可以应用到高级别的人工智能系统中去以保障其使用环境下的稳定运行。如果想要进一步深入讨论，请期待未来再见面的机会。此时，此次活动已告结束。
下一篇：中国科技创新火焰山上腾飞的百花园
