2025-01-28 智能 0
智慧之火在中国舞台上绽放：OpenAI CEO的教育与科技之歌
在6月10日，OpenAI创始人Sam Altman以视频连线的方式现身于中国北京举办的2023智源人工智能大会，这是Altman首次对中国观众发表演讲。Altman在演讲中引用了《道德经》，谈及大国合作，表示AI安全始于足下，各国间必须进行合作和协调。
随后Altman接受了智源研究院理事长张宏江的一对一问答。张宏江博士目前任北京智源人工智能研究院理事长，同时担任多家公司的独立董事和顾问。他曾任金山集团执行董事及首席执行官兼金山云的首席执行官，是微软亚洲研究院创始人之一，曾担任副院长、微软亚太研发集团（ARD）首席技术官及微软亚洲工程院（ATC）院长以及微软“杰出科学家”。
Altman演讲核心内容：
当下人工智能影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要领域之一。
对齐仍然是一个未解决的问题。GPT-4 花了八个月时间完成对齐方面工作。但相关的事项还在升级，最主要分为扩展性和可解释性的两方面。
问答环节核心内容：
十年内人类将拥有强大的人工智能系统（AI System）。
OpenAI没有相关新的有关开源模型时间表，但开源模型具有优势。
看明白神经网络比看明白人类脑子容易多了。
未来可能会尝试做GPT-5模型，但不会很快。
AI安全需要中国研究者的参与和贡献。
Sam Altman认为未来十年我们会有非常强大的AI系统，他希望国际社会共同努力，为即将发生的事情做好准备，并了解有关安全的问题。他提到，我们需要非常不同的架构使得AGI更安全，并且他也很好奇下一步会发生什么，他最喜欢做这项工作的是因为在研究前沿，有很多令人兴奋和惊讶的事情。此外，他提到，他们会继续推进让模型更安全的手段，并认为这种方法对于人工神经网络有效，但是不确定它是否可以应用到人类大脑上。
控制模型数量可行吗？
张宏江提出了一个问题，如果这个世界上只有三个模型，那么会不会更安全？而Sam Altman提出，对于世界上的少数或多数模型哪种更加安全，有不同的观点。他认为，更关键的是，我们是否有一个系统，可以让任何一个强大的模式都经过充分测试？
总结来说，在这场讨论中，Sam Altman 强调了全球合作对于确保Artificial General Intelligence (AGI) 的必要性，以及如何通过发展出一种能够实现这一目标框架来提高整个行业标准。此外，他还指出了开放透明度、伦理指导原则以及数据隐私保护等方面作为促进负责任的人类技术发展不可忽视的话题。而张宏江则深入探讨了关于控制单一或有限数量高级别的人工智能系统及其潜在风险的问题，从而引发了一系列关于如何平衡这些新兴技术带来的机会与挑战的问题。在此基础上，他们进一步探讨了如何通过建立国际协议、制定严格规定以及加强监督机制来防止高级别的人工智能被滥用，从而维护公众福祉并保障个人权利不受侵犯。
