2025-01-28 数码 0
北京日报客户端记者：张伟
6月10日，OpenAI首席执行官山姆·阿尔特曼在2023年北京智源大会上发表了关于AI安全与对齐的演讲。阿尔特曼强调，未来十年通用人工智能将会在几乎所有领域超越人类的专业知识，但同时也需要全球研究人员共同管理这些风险，因为推进AGI安全是大家寻找共同点的最重要领域之一。
“随着人工智能系统变得越来越强大，全球合作的重要性从未如此明显。”阿尔特曼指出，如果不加以管理，一些旨在改善公共卫生结果的人工智能系统可能会出现偏差，从而提供无根据的建议，并因此扰乱整个医疗保健体系。而那些为优化农业实践设计的人工智能系统则可能无意中耗尽自然资源或破坏生态系统，这样缺乏对长期可持续性的考虑，将影响粮食生产和环境平衡。
“如果我们不小心地进行AGI开发和部署，那么造成的事故成本将影响到我们每个人。”阿尔特曼认为，我们应该首先建立国际规范和标准，以保障所有国家平等使用AGI，并积极开展国际合作，建立全球信任，以可验证的方式安全地开发日益强大的人工智能系统。“我并不幻想这会很容易，但是就像《道德经》所说，千里之行始于足下。”
对于行业来说，最具建设性的第一步已经迈出了，与国际科学和技术界合作。在科技发展方面，我们应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面思考并分享他们的成果。同时，我们还应该促进对AGI安全研究方面的投资，并积极开展可扩展监督，比如可以尝试使用人工智能协助人类监督其他人工智能。这样的好处是它可以随着人工智能发展而扩展，变得越来越聪明和有用。
“我看到了美国、中国以及世界各地研究人员合作实现共同目标巨大潜力，以及致力于解决AGI发展中突出的技术挑战。”阿尔特曼相信，人类将能够利用通用人工智能来解决世界上最重要的问题，从而显著改善生活质量。
