科学技术部提议全球共建人工智能自然风险管理体系

北京日报客户端记者：张伟

6月10日，OpenAI首席执行官山姆·阿尔特曼在2023年北京智源大会上发表了关于AI安全与对齐的演讲。阿尔特曼提到，未来十年通用人工智能将会在几乎所有领域超越人类的专业知识，但同时也需要全球研究人员共同管理这些风险，因为推进AGI安全是大家寻找共同点的最重要领域之一。

“随着人工智能系统变得越来越强大，全球合作的重要性从未如此明显。”阿尔特曼说，如果不小心，一种旨在改善公共卫生结果的人工智能系统可能出现偏差，从而提供毫无根据的建议，这可能会扰乱整个医疗保健系统。同样，一种为优化农业实践设计的人工智能系统可能无意中耗尽自然资源或破坏生态系统，而缺乏对长期可持续性的考虑，对粮食生产和环境平衡产生影响。

“不计后果地进行AGI开发和部署，将导致不可预见的事故成本，我们都将受其影响。”阿尔特曼认为，首先应建立国际规范和标准，并为所有国家提供平等使用AGI的保障。其次，应积极开展国际合作，以可验证方式安全地开发这类强大的技术。“我并不幻想这很容易，但就像《道德经》所言，大事起于细节。”

对于行业来说，最具建设性的第一步已经迈出：与国际科学和技术界合作。在技术进步方面，该行业应该增加透明度并促进知识共享。如果有新的安全问题被发现，研究人员应该站在更大利益层面思考，并分享他们的成果。此外，该行业还应该支持对AGI安全研究投资，并开展可扩展监督，如尝试使用人工智能协助人类监督其他人工智能。“这样的好处是它可以随着人工智能发展而扩展、变得更加聪明和有用。”

“我们看到了美国、中国以及世界各地研究人员如何通过合作实现共同目标，以及致力于解决AGI发展中突出的技术挑战。”阿尔特曼相信，不久之内人类将能够利用通用人工智能解决世界上最重要的问题，并显著提高生活质量。