2025-01-28 数码 0
北京日报客户端记者：在2023年北京智源大会上，OpenAI首席执行官山姆·阿尔特曼发表了一个关于人工智能安全与对齐的演讲。他提到，未来十年通用人工智能将会超越人类在几乎所有领域的专业知识。然而，这也意味着我们需要全球合作来管理这些风险，并推进AGI的安全是大家寻找共同点最重要的一个领域。
阿尔特曼指出，如果不小心，一款旨在改善公共卫生结果的人工智能系统可能会出现错误，提供没有根据的建议，从而扰乱整个医疗保健系统。同样，对农业实践进行优化的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，而缺乏长期可持续性的考虑，将影响粮食生产和环境平衡。
他认为，不计后果地进行AGI开发和部署将导致不可预见的事故成本，对我们所有人都有影响。首先，我们应该建立国际规范和标准，为所有国家提供平等使用AGI的保障。其次，我们需要积极开展国际合作，建立全球信任，以可验证方式安全地开发日益强大的AI系统。“我不幻想这会很容易，但就像《道德经》所言，千里之行，始于足下。”
阿尔特曼认为，最具建设性的第一步已经迈出：与国际科学和技术界合作。在技术进步方面，我们应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面思考，并分享他们的成果。此外，我们还应该促进对AGI安全研究方面的投资，并积极开展可扩展监督，比如使用AI协助人类监督其他AI。
这样的好处是它可以随着人工智能发展而扩展变得越来越聪明且有用。“我们看到了美国、中国以及世界各地研究人员合作实现共同目标的大量潜力，并致力于解决AGI发展中突出的技术挑战。”阿尔特曼相信通过利用AGI，我们能够解决世界上最重要的问题并显著提高人类生活质量。
