阿尔特曼全球共治人工智能风险科技玩具在自然景观中引发新思考

北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着强大的人工智能系统的出现，我们是否已经到了必须全球合作来管理这些风险的时候？Altman认为，未来十年里通用人工智能将会在几乎所有领域超过人类专业知识，而这同时也意味着我们需要共同努力来确保这些技术不会被滥用。

Altman指出，如果不加以控制，一项旨在改善公共卫生结果的人工智能系统可能会出现偏差，并提供毫无根据的建议，从而破坏整个医疗保健体系。同样地，一项设计用于优化农业实践的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽略长期可持续性，对粮食生产和环境平衡产生负面影响。

他强调，不计后果地进行AGI开发和部署，将带来灾难性的后果，这些成本将影响到每个人。为了避免这样的情况，业界应该建立国际规范和标准，为所有国家提供平等使用AGI的保障。此外，还应该积极开展国际合作，以建立全球信任，并通过可验证的手段安全地开发这些越来越强大的人工智能系统。

Altman认为，最有建设性的第一步就是与国际科学和技术界合作。在技术进步方面，行业应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面上思考，并分享他们的成果。此外，行业还应该促进对AGI安全研究方面的投资，并开展广泛监督，比如利用人工智能协助人类监督其他人工 intelligence 系统。这样的好处是它可以随着人工 intelligence 发展而扩展，使其变得更加聪明有用。

最后，Altman相信，我们看到了美国、中国以及世界各地研究人员共同目标实现巨大潜力的机会，以及解决AGI发展中的突出技术挑战。他坚信，人类能够利用AGI解决世界上最重要的问题，并显著提高生活质量。