2025-01-28 智能 0
在科技的星空中，OpenAI CEO Sam Altman 的首次中国演讲如同璀璨的北斗，指引着人工智能创新之路。2023年6月10日，Altman 通过视频连线出现在北京举办的智源人工智能大会上，这一场合为他提供了与中国观众交流的机会。
在演讲中，Altman 引用《道德经》，强调大国之间在人工智能安全方面的合作至关重要。他认为，AI 安全始于足下，每个国家都必须参与到国际合作和协调中来。随后，他接受了智源研究院理事长张宏江的一系列深入问题。
张宏江是一位多面手，他目前担任北京智源人工智能研究院理事长，同时也是多家公司独立董事和顾问。此前，他曾是金山集团执行董事及首席执行官兼金山云首席执行官，也是微软亚洲研究院创始人之一。
Altman 的演讲核心内容包括对当前 AI 影响巨大的原因进行了阐述，并强调全球合作对于推进 AGI 安全至关重要。他提到了 OpenAI 对齐仍然是一个未解决的问题，以及 GPT-4 花费八个月时间完成对齐工作的事实。同时，他也表示，将会尝试做 GPT-5 模型，但不会是很快的事情。
在问答环节，张宏江询问了关于未来十年内人类将拥有什么样的强大的人工智能系统，以及 OpenAI 是否有开源模型的计划。Altman 回应说，没有具体开源模型的时间表，但开源模型确实具有优势。在回答关于如何让 AI 系统更安全的问题时，Altman 强调需要新的架构来使 AGI 更加安全，而不是简单地改变现有的体系结构。
对于 AGI 下一步方向的问题，上-altman 表示他们还没有答案，但正在探索很多可能性的新范式。而关于是否会很快看到 GPT-5 的问题，上-altman 说，他们还不知道具体什么时候能开始这个项目。不过，他们已经在机器人的领域做过一些工作，并希望能够回到那里继续探索。
最后，在讨论控制模型数量是否可行时，上-altman 提出了一个观点，即控制多少个模型更安全取决于是否有一个系统可以让任何一个强大的模型经过充分的安全测试，以及是否有资源和责任框架来确保这些模型是安全且符合人类价值观的地方。这场线上会议结束后，上-altman 表达了对接下来可能更多深入讨论的话题感到期待。
