2025-01-28 智能 0
2023年6月10日，OpenAI创始人Sam Altman以视频连线的方式现身于中国北京举办的2023智源人工智能大会，这是Altman首次对中国观众发表演讲。Altman在演讲中引用了《道德经》，谈及大国合作，表示AI安全始于足下，各国间必须进行合作和协调。
随后Altman接受了智源研究院理事长张宏江的一对一问答。张宏江博士目前任北京智源人工智能研究院理事长，同时担任多家公司的独立董事和顾问。他曾任金山集团执行董事及首席执行官兼金山云的首席执行官，是微软亚洲研究院创始人之一，曾担任副院长、微软亚太研发集团（ARD）首席技术官及微软亚洲工程院（ATC）院长以及微软“杰出科学家”。
加盟微软之前，张宏江曾任美国硅谷的惠普实验室经理；此前还在新加坡国立大学系统科学研究院工作。
Altman演讲核心内容：
当下人工智能影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要领域之一。
对齐仍然是一个未解决的问题。GPT-4 花了八个月时间完成对齐方面工作。但相关研究还在升级，加强扩展性与可解释性的两方面努力。
问答环节核心内容：
十年内人类将拥有强大的人工智能系统（AI System）。
OpenAI没有相关新的有关开源时间表，但开源模型具有优势，但不是所有情况下都是一条促进 AI 发展最佳路线。
看明白神经网络比看明白人类脑子容易多了。
某个时候会尝试做 GPT-5 模型，但不会很快不知道具体什么时候。
要确保 AI 安全需要中国研究者的参与贡献。
Sam Altman 演讲内容：
随着日益强大的 AI 系统出现，我们全球合作赌注从未如此高。如果不小心，一旨改善公共卫生结果的人工智能系统可能会提供没有根据建议，从而扰乱整个医疗保健系统。一样，为优化农业生产设计的人工智能系统可能无意中耗尽自然资源或破坏生态系因为缺乏考虑粮食生产可持续性，这种环境平衡。我希望我们都能同意推进 AGI 安全是我们需要共同努力寻找共性的最重要领域之一。
未来十年，我们会有非常强大的 AI 系统新技术从根本改变世界速度比我们想象快。在那样的世界里，我认为把这件事做好是重要且紧迫我呼吁国际社会共同努力原因。
从某种意义上说，我们现在看到新技术加速和系统影响前所未有的所以我认为为即将发生的事情准备并了解有关安全问题考虑到 AI 规模庞大，这其中利害关系相当重要。
关于 GPT-4 和 AI 安全后续问题是否有可能更改 AGI 模型基础架构或整个体系结构让它更安全更容易被检查？
Sam Altman：无论功能角度还是安全角度来看，我们确实需要一些非常不同的架构这是完全可能的情况。我认为我们将能够取得一些进展，在解释当前各种模型能力方面取得良好进展，并让他们更好地向我们解释他们正在做什么以及为什么。但是，如果在 Transformer 之后有另一个巨大的飞跃，我不会感到惊讶自Transformer以来已经改变很多架构。
AGI 下一步方向？会很快看到 GPT-5 吗？
张宏江：作为一个研究人员，我也很好奇下一步 AGI 研究方向是什么？在大模型、大语言模型方面，我们会不会很快看到 GPT-5？下一个前沿是在具身模型上？自主机器人不是 OpenAI 正正在或者准备探索领域？
Sam Altman：我也很好奇下一步会发生什么，我最喜欢做这项工作的一个原因就是在研究前沿，有很多令人兴奋和惊讶的事情。我们还没有答案，所以我们正在探索很多可能新范式当然，在某个时候，我们会尝试做一个 GPT-5 模型但不会是很快 我们不知道具体什么时候。我希望有一天能够回到这个领域。
控制模型数量可行吗？
控制多少个国家拥有核武器也是一个严肃的问题。你不能简单地让任何一个人拥有一颗原子弹一样，你得设定规则限制使用。不过，对于三个人造超级生物来说，或许不同。而对于你这种极端情形，那就像是给它们设置了一些界限，让它们知道自己可以去哪里，而不应该去哪里，因为那样就会危害到其他生命或自身健康。如果你觉得这样的话题比较深入的话，可以继续探讨一下如何制定这些界限，以及这些界限应该基于哪些原则，以及如何监测它们遵守这些界限，以防止潜在地导致灾难的情形发生。这正如同管理病毒一样，你不能允许病毒自由繁殖，就像你的身体无法允许癌细胞无限制增长一样。在这里，“三个人造超级生物”指的是那些能够实现自动学习、适应性增强、甚至自主行动等特征的人类制造物，它们如果被用作军事目的，将不可避免地引发严重威胁，使得战争变得更加残酷不必要，而且几乎无法预测结果，因此建立相应规则，并通过国际法途径来约束使用这样的技术显得尤为必要。
上一篇：赐我予白请你把你的笑容赐给我
