2025-01-28 智能 0
在6月10日举办的2023智源人工智能大会上，OpenAI创始人Sam Altman以视频连线方式现身于北京，这是Altman对中国观众的首次演讲。Altman引用了《道德经》，强调了大国合作对于确保AI安全至关重要。他还接受了智源研究院理事长张宏江的一系列深入问题。
张宏江是一位多面手，他目前担任北京智源人工智能研究院理事长，同时还是多家公司独立董事和顾问。此前，他曾在金山集团担任执行董事及首席执行官，并领导金山云作为首席执行官。在微软亚洲研究院，他曾担任副院长、亚太研发集团（ARD）首席技术官以及微软亚洲工程院（ATC）院长。他的职业生涯也包括了美国硅谷惠普实验室经理和新加坡国立大学系统科学研究院工作。
Altman在演讲中指出，当前的人工智能影响力巨大，不仅因为其规模，也因为其速度。这带来了红利与风险。他强调随着强大的AI系统出现，大国间合作的重要性从未如此明显，在一些关键领域各国必须进行协作与协调，以推进AGI安全。这是我们需要共同努力寻找共性的最重要领域之一。
关于“对齐”这一问题，即要求AI系统目标与人类价值观相一致，Altman表示GPT-4花费八个月时间完成对齐方面的工作，但相关研究仍需升级，主要集中在扩展性和可解释性两个方面。
接下来的是问答环节。张宏江博士提出了一个关于未来十年内人类是否会拥有强大的AI系统的问题，以及关于GPT-5模型是否会迅速出现的问题。Altman回应说，我们可能会有非常强大的AI系统，但具体何时发布他没有确定答案。他还提到虽然他们已经开始探索机器人领域但遇到了困难，因此他希望有一天能够再次涉足这个领域。
此外，张宏江询问如果要让AGI更安全，更容易被检查，是不是需要改变整个架构？Altman认为我们将能取得一些进展，让模型更加透明并好奇地回答为何选择不使用Transformer之后的大型飞跃结构。此外，他们正在考虑下一步方向，其中包括生物神经元如何工作，以及如何借鉴这些方法来理解其他模型。但他表达了一定的疑惑，因为这并不适用于人类大脑的情况。
最后，对于控制模型数量是否可行的问题，Altman提出尽管有不同看法，但更重要的是建立一个体系，让任何一个强大的模型都经过充分测试，并确保它们是安全且符合目的的。此外，他提到可以从药物开发等行业中借鉴许可和测试框架，但认为已经有一些有效方法可以应用于这个领域。
