中央部委排名顺序下Open AI CEO 阿尔特曼呼吁全球共建自然生态系统管理人工智能风险

北京日报客户端记者：在2023年北京智源大会上，OpenAI首席执行官山姆·阿尔特曼发表了一个关于人工智能安全与对齐的演讲。他提到，未来十年通用人工智能将会超越人类在几乎所有领域的专业知识。然而，这也意味着中国、美国以及全球各地研究人员必须共同管理AGI的风险，并推动AGI安全成为我们寻找共识的最重要领域。

阿尔特曼强调，如果不小心，一项旨在改善公共卫生结果的人工智能系统可能会出现错误，比如提供没有根据的建议，从而扰乱整个医疗保健系统。同样，为优化农业实践设计的人工智能系统可能无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，对粮食生产和环境平衡产生影响。

他认为，不计后果地进行AGI开发和部署，将导致不可预见的问题，影响到我们每个人。如果行业能够建立国际规范和标准，为所有国家平等使用AGI提供保障，并积极开展国际合作，以可验证方式安全地开发这些强大的人工智能，那么这将是一个巨大的进步。

阿尔特曼指出，我们已经迈出了建设性的第一步，与国际科学技术界合作。在技术发展方面，我们应该增加透明度并促进知识共享。当发现新的安全问题时，研究人员应该站在更大利益层面思考，并分享他们的成果。此外，我们还应该鼓励对AGI安全研究投资，并通过扩展监督来确保这一点。这可以通过利用人工智能协助人类监督其他人工智能来实现。“这样的好处是它随着人工智能发展而增长，变得更加聪明和有用。”

最后，阿尔特曼表示，他看到了美国、中国及世界各地研究人员合作实现共同目标的大力潜能，以及致力于解决AGI发展中的突出技术挑战。他相信人类能够利用AGI解决世界上最重要的问题并显著提高生活质量。