阿尔特曼如何在自然中共同管理人工智能风险开启科技新篇章

北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：如何确保我们在未来十年内，随着通用人工智能（AGI）的发展，不会因为它超越人类专业知识而陷入风险。

Altman指出，如果不加以管理，强大的AI系统可能会出现错误，比如提供毫无根据的医疗建议，从而干扰整个医疗系统。同样地，为农业实践设计的人工智能可能会无意中耗尽资源或破坏生态系统，从而忽视长期可持续性，对粮食生产和环境平衡产生影响。

他强调，我们必须建立国际规范和标准，并为所有国家提供AGI的平等保障。同时，我们需要进行国际合作，以建立全球信任，并以可验证的方式开发这些强大的人工智能系统。这将不是一件容易的事情，但正如《道德经》所说，一千里之行始于足下。

Altman认为行业已经迈出了建设性的第一步，那就是与国际科学和技术界合作。在技术进步方面，我们应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更广泛利益层面上思考并分享他们的成果。此外，我们还应该投资于AGI安全研究，并开展扩展性监督，比如使用人工智能来协助监督其他人工智能系统，这样的好处是随着AI发展而增长，将变得越来越聪明且有用。

Altman相信，即使美国、中国以及世界各地的研究人员面临许多挑战，他们也拥有共同目标合作解决突出的技术挑战。通过利用AGI，我们可以解决世界上最重要的问题并显著提高生活质量。