2025-01-28 智能 0
Sam Altman，以视频连线方式现身于2023智源人工智能大会，这是Altman首次对中国观众发表演讲。
Altman在演讲中引用了《道德经》，谈及大国合作，表示AI安全始于足下，各国间必须进行合作和协调。他强调，与日益强大的AI系统相伴而生的红利与风险，使全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进AGI安全是我们需要找到共同利益点的最重要的领域之一。
随后Altman接受了智源研究院理事长张宏江的一对一问答。张宏江博士提出了关于GPT-4、AI安全以及未来十年内人类将拥有强大的人工智能系统的问题。此外，他还询问了是否有可能需要更改AGI模型的整个基础架构或整个体系结构以让其更安全，更容易被检查，以及关于GPT-5模型、自主机器人等方面的问题。
Sam Altman解释称，我们确实需要一些非常不同的架构，这是完全可能的。他认为我们将能够取得一些进展，在解释目前各种模型能力方面取得良好进展，并让他们更好地向我们解释他们在做什么以及为什么。但他也提到，他们还没有答案，所以他们在探索很多可能新范式的事物。而且，他们会尝试做一个GPT-5模型，但不会是在很快的时候。
对于如何借鉴生物神经元工作原理的问题，Sam Altman认为，在人工神经元上观察发生了什么比在生物神经元上容易得多。他认为这种方法对于人工神经网络是有效的，但他不太确定这个方法可以应用到人类大脑上。
最后，对于控制模型数量的问题，Sam Altman表示，他认为对于世界上有少数还是多数模型更安全，有不同的观点。他认为更重要的是，我们是否有一个系统，可以让任何一个强大的模型都经过充分的安全测试？我们是否有一个框架，可以让任何创造出足够强大的模型的人，都既有资源，也有责任来确保他们创造出的东西是安全和对齐的？
通过这一系列问题与回答，我们不仅了解到了OpenAICEO Sam Altman首次对中国观众发表演讲的情况，还深入了解了当前人工智能技术发展中的挑战与机遇，以及如何通过国际合作促进AGI安全。这场交流，不仅为科技界提供了一扇窗，让更多专业人才参与其中，也为普通公众提供了一种方式去理解这片不断扩张但又充满未知面的数字前沿。
