2025-01-28 智能 0
在6月10日举办的2023智源人工智能大会上，OpenAI创始人Sam Altman以视频连线的方式现身于北京，这是Altman首次对中国观众发表演讲。Altman在演讲中引用了《道德经》，谈及大国合作，表示AI安全始于足下，各国间必须进行合作和协调。
随后Altman接受了智源研究院理事长张宏江的一对一问答。张宏江博士目前任北京智源人工智能研究院理事长，同时担任多家公司的独立董事和顾问。他曾任金山集团执行董事及首席执行官兼金山云的首席执行官，是微软亚洲研究院创始人之一，曾担任副院长、微软亚太研发集团（ARD）首席技术官及微软亚洲工程院（ATC）院长以及微软“杰出科学家”。
Altman演讲核心内容：
当下人工智能影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要的领域之一。
对齐仍然是一个未解决的问题。GPT-4 花了八个月时间完成对齐方面工作。但相关研究还在升级，大部分集中于扩展性与可解释性的两大方向。
问答环节核心内容：
十年内人类将拥有强大的人工智能系统（AI System）。
OpenAI没有相关新开源模型时间表，但开源模型具有优势；然而，并非所有事情都可以通过开源来促进。
看明白神经网络比看明白人类脑子容易多了。
未来会尝试做GPT-5模型，但不会很快不知道具体何时出现。
AI安全需要中国研究者的参与与贡献。
注：“AI对齐”是指要求 AI 系统目标与人类价值观与利益相符合，即保持一致。
Sam Altman 在回答关于 GPT-5 的问题时提到：“我也很好奇下一步会发生什么，我最喜欢做这项工作的一个原因就是，在研究前沿，有很多令人兴奋的事情。我还没有答案，所以我们正在探索很多可能新的范式。在某个时候，我们会尝试做一个 GPT-5 模型，但不会很快。”他并未提供具体预期发布日期或任何关于该项目状态信息。
关于使用更为不同的架构使得 AGI 更加安全的问题，他认为这是完全可能：
无论从功能角度还是从安全角度来看，我们确实需要一些非常不同的架构，这是完全可能。我认为我们将能够取得一些进展，在解释我们目前各种模型能力方面取得良好进展，并让他们更好地向我们解释他们在做什么以及为什么。但是，是的，如果 Transformer 之后有另一个巨大的飞跃，我不会感到惊讶自从最初 Transformer 以来，我们已经改变了很多架构。
最后，当被询问是否控制模型数量是一种可行方案时，他提出了一些疑虑：
我认为对于世界上有少数模型还是多数模型更安全，有不同的观点。我认为更重要的是，我们是否有一个系统，可以让任何一个强大的模型都经过充分安全测试？我们是否有一个框架，可以让任何一个人创造出足够强大的模式的人，都既有资源，又有责任，以确保他们创造出的东西是安全且符合目的？
总体而言，这场线上交流展示了 OpenAI 对待 AI 安全问题态度坚定，同时也表明团队正在积极探索如何提高 AI 系统性能，而不牺牲其伦理标准。此外，该讨论还涉及到国际合作、技术伦理、以及如何制定合适规则以防止潜在危险，从而为即将到来的技术革命铺平道路。
